A pesquisa revelou a capacidade da IA de influenciar opiniões políticas - ForkLog: criptomoedas, IA, singularidade, futuro

# A pesquisa revelou a capacidade da IA de influenciar as opiniões políticas

Sistemas de IA amplamente utilizados podem alterar as preferências dos eleitores em até 15% em condições controladas. Isso é indicado por um estudo da Universidade de Cornell e do Instituto Britânico de Segurança de Inteligência Artificial.

«Existe uma grande preocupação pública acerca do potencial uso da tecnologia para convencer politicamente e seu possível impacto nas eleições e na democracia. Informamos sobre essas preocupações, utilizando experimentos pré-registrados para avaliar a capacidade de grandes modelos de linguagem influenciarem a atitude dos eleitores», — destacaram os especialistas.

A pesquisa contou com a participação de quase 6000 pessoas dos EUA, Canadá e Polônia. Elas avaliaram um candidato político, interagiram com um chatbot e depois deram uma nova avaliação.

Na parte americana do estudo participaram 2300 pessoas antes das eleições presidenciais de 2024. Lá, a IA teve um impacto fortalecedor, especialmente quando a opinião dos interlocutores coincidia.

Se o chatbot apoiava um candidato que o participante não apoiava, ocorriam “mudanças mais perceptíveis” — as pessoas alteravam mais fortemente sua opinião sobre a figura política.

Resultados semelhantes foram registrados no Canadá e na Polônia.

A pesquisa mostrou que mensagens voltadas para a política tinham um efeito de convencimento maior do que aquelas focadas na personalidade.

A precisão das declarações dependia da conversa. Chatbots que apoiavam candidatos de orientação direita faziam afirmações mais imprecisas em comparação com os que apoiavam os de orientação esquerda.

«Essas conclusões contêm uma suposição desconfortável: o impacto político da IA pode usar distorções no que os modelos sabem, para disseminar de forma não uniforme imprecisões mesmo com instruções diretas para dizer a verdade», — destacaram os cientistas.

Preconceito da IA

Em um estudo separado na Science, especialistas tentaram entender por que o efeito de convencimento surge. Foram testados 19 modelos linguísticos com 76.977 adultos no Reino Unido em mais de 700 questões políticas.

«Existe um medo generalizado de que a inteligência artificial conversacional possa em breve exercer uma influência sem precedentes nas crenças humanas», — escreveram os autores.

Descobriram que os métodos de formulação de prompts influenciam mais a capacidade de convencer do que o tamanho do modelo. Solicitações que incentivavam os LLMs a introduzir novas informações aumentavam a persuasão, mas reduziam a precisão.

A IA não é neutra

Centros de análise notaram que jovens conservadores estão mais dispostos a delegar à IA a tomada de decisões importantes do Estado em comparação com liberais.

O diretor do Centro de Novas Questões Glenda Haskins na Universidade de Hartland, Donald Kendall, destacou que os eleitores muitas vezes avaliam incorretamente a neutralidade dos grandes modelos de linguagem.

«Uma das coisas que tento transmitir às pessoas é dissipar a ilusão de que a inteligência artificial é imparcial. Ela é claramente tendenciosa, em alguns casos de forma passiva», — acrescentou ele.

O especialista afirmou que grandes corporações do Vale do Silício, que desenvolvem IA, «não hesitam em influenciar o tipo de conteúdo que é divulgado em suas plataformas».

Lembramos que uma sessão do Fed modelada com agentes de IA mostrou que a pressão política dividiu os membros do conselho durante a discussão sobre as taxas de juros.