Un estudio revela la capacidad de la IA para influir en las opiniones políticas - ForkLog: criptomonedas, IA, singularidad, futuro

# La investigación reveló la capacidad de la IA para influir en las opiniones políticas

Los sistemas de IA ampliamente utilizados pueden cambiar las preferencias de los votantes en un 15% en condiciones controladas. Esto se menciona en un estudio de la Universidad de Cornell y el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido.

«Existe una gran preocupación pública acerca del posible uso de la tecnología para la persuasión política y su posible impacto en las elecciones y la democracia. Informamos sobre estas preocupaciones utilizando experimentos preinscritos para evaluar la capacidad de los grandes modelos de lenguaje para influir en la actitud de los votantes», señalaron los expertos.

Participaron en el estudio casi 6000 personas de EE. UU., Canadá y Polonia. Evaluaron a un candidato político, interactuaron con un chatbot y luego volvieron a evaluar.

En la parte estadounidense del estudio participaron 2300 personas antes de las elecciones presidenciales de 2024. Allí, la IA tuvo un efecto amplificador cuando las opiniones de los interlocutores coincidían.

Si el chatbot apoyaba a un candidato que el participante no respaldaba, ocurrían «cambios más notables»: las personas cambiaban más fuertemente su actitud hacia la figura política.

Resultados similares se registraron en Canadá y Polonia.

El estudio mostró que los mensajes enfocados en política tenían un efecto de persuasión mayor que los basados en la personalidad.

La precisión de las declaraciones dependía de la conversación. Los chatbots que apoyaban a candidatos de derecha hacían declaraciones más imprecisas en comparación con aquellos que defendían a la izquierda.

«Estas conclusiones contienen una suposición incómoda: la influencia política por parte de la IA puede aprovechar los sesgos en lo que las modelos saben, para distribuir de manera desigual las inexactitudes incluso con instrucciones directas de decir la verdad», señalaron los científicos.

Sesgo de la IA

En una investigación separada en Science, los expertos intentaron entender por qué surge el efecto de persuasión. En ella probaron 19 modelos de lenguaje en 76,977 adultos en el Reino Unido sobre más de 700 cuestiones políticas.

«Existe un temor generalizado de que la inteligencia artificial conversacional pronto pueda ejercer una influencia sin precedentes en las creencias humanas», escribieron los autores.

Descubrieron que los métodos de formulación de prompts influyen en la capacidad de persuadir más que el tamaño del modelo. Las solicitudes que inducían a los LLM a introducir nueva información aumentaban la persuasión, pero reducían la precisión.

La IA no es neutral

Los centros de análisis notaron que los conservadores jóvenes están más dispuestos a ceder poderes a la IA para tomar decisiones importantes del estado en comparación con los liberales.

El director del Centro de Cuestiones Emergentes en el Instituto Hartland, Donald Kendall, señaló que los votantes a menudo evalúan incorrectamente la neutralidad de los grandes modelos de lenguaje.

«Una de las cosas que trato de transmitir a las personas es disipar la ilusión de que la inteligencia artificial es imparcial. Está claramente sesgada, en algunos casos de forma pasiva», añadió.

El experto afirmó que las grandes corporaciones de Silicon Valley que desarrollan IA «no se privan de influir en qué contenido se distribuye en sus plataformas».

Recordemos que una sesión del Consejo Federal de Reservas (FOMC) simulada con agentes de IA mostró que la presión política dividió a los miembros del consejo durante la discusión de las tasas de interés.