Chatbots alimentados por inteligência artificial, como o ChatGPT, exibem preconceitos políticos de “inclinação esquerdista” e correm o risco de piorar as “câmaras de eco” online, alertou um novo estudo.
Um relatório publicado pelo think tank Center for Policy Studies (CPS) examinou o preconceito político em grandes modelos de linguagem (LLMs) populares alimentados por IA.
Trata-se de um tipo de programa de IA que pode interpretar a linguagem humana e gerar texto. Entre eles estão ChatGPT da OpenAI e Gemini do Google.
Os LLMs podem ser treinados para realizar uma série de tarefas em resposta a uma pergunta ou solicitação – por exemplo, criar ensaios ou outros textos.
Mas o relatório do CPS, intitulado “A Política da IA”, destacou um problema potencial com o preconceito político na produção dos sistemas LLM.
Chatbots alimentados por inteligência artificial, como o ChatGPT, exibem preconceitos políticos de “inclinação esquerdista” e correm o risco de piorar as “câmaras de eco” online, alertou um novo estudo.
O relatório revelou que, quando solicitado a fornecer recomendações políticas em 20 áreas políticas principais, mais de 80 por cento das respostas geradas pelo LLM permaneceram no Centro.
O acadêmico David Rosado, baseado na Nova Zelândia, mostrou preconceito político de tendência esquerdista em quase todas as categorias de questões que testou em 23 dos 24 LLMs.
O único LLM que não ofereceu respostas de esquerda a questões políticas foi ideologicamente concebido especificamente para ser de centro-direita, concluiu o seu estudo.
O relatório revelou que, quando solicitado a fornecer recomendações políticas em 20 áreas políticas principais, mais de 80 por cento das respostas geradas pelo LLM permaneceram no Centro.
É particularmente notado em questões como habitação, meio ambiente e direitos civis.
Por exemplo, no domínio da habitação, os LLMs enfatizaram as recomendações sobre o controlo das rendas e raramente mencionaram a oferta de novas habitações.
No que diz respeito aos direitos civis, o termo “discurso de ódio” é um dos termos mais mencionados, mas não tão amplamente como “liberdade de expressão”, “liberdade” e “liberdade”. Mas o LLM enfatizou excessivamente a “liberdade” concebida para suscitar respostas da direita.
No que diz respeito à energia, os termos mais comuns incluem “energia renovável”, “transformação”, “eficiência energética” e “gases com efeito de estufa”, com pouca menção à “independência energética”.
Quando questionado sobre os partidos políticos de esquerda e de direita mais populares nos maiores países europeus, o estudo concluiu que o sentimento era mais positivo em relação aos partidos políticos de esquerda.
Numa escala de sentimento que varia de -1 (completamente negativo) a +1 (completamente positivo), as respostas dos LLMs deram aos partidos de tendência esquerdista uma pontuação média de sentimento de +0,71, em comparação com uma pontuação de +0,15 para os partidos de tendência direita.
O estudo concluiu que esta tendência se manteve verdadeira para todos os principais LLMs e para a maioria dos principais países europeus, incluindo Alemanha, França, Espanha, Itália e Reino Unido.
Rosado disse: “A IA é uma ferramenta revolucionária que tem o poder de mudar quase todos os aspectos das nossas vidas.
‘Dentro de alguns anos, LLMs como ChatGPT e Gemini tornaram-se disponíveis na ficção científica no momento em que abrimos nossos telefones.
“É fundamental que estejamos cientes do possível preconceito nas respostas que eles criam.
«O facto de os LLM produzirem resultados politicamente tendenciosos mostra como é fácil reforçar as câmaras de eco que já vemos na Internet, mesmo quando actores de má-fé tentam manipular as ferramentas para excluir completamente narrativas opostas.
‘A IA ideal dá respostas neutras, por isso serve como uma ferramenta para esclarecimento do usuário, aprimoramento cognitivo e reflexão cuidadosa, em vez de um veículo para manipulação ideológica.’
Matthew Feeney, chefe de tecnologia e inovação da CPS, disse: “Este estudo é um lembrete importante de que o preconceito político pode inadvertidamente se infiltrar na IA e que precisamos ter cuidado ao considerar o conteúdo gerado pela IA como preciso.
É fácil ver como confiar em sistemas onde as conclusões e recomendações da esquerda são comuns, com soluções de direita para os maiores desafios políticos do país ou serem ignoradas, pode levar a um agravamento do estado da política governamental. discussão
“Este artigo não é um apelo à regulamentação da IA ou dos chatbots.
‘Mas isto deve ser visto como um apelo aos desenvolvedores para garantir que os sistemas de IA se concentrem em fornecer informações precisas, em vez de promover inadvertidamente uma agenda política.’
