Al abordar temas controvertidos los modelos pueden adoptar perspectivas alineadas con la postura política del usuario

Investigadores de la Universidad Estatal de Campinas (UNICAMP), en el estado de São Paulo, Brasil, examinaron la postura ideológica de grandes modelos lingüísticos —sistemas de inteligencia artificial entrenados para comprender y generar el lenguaje humano— y descubrieron que, cuando se les informa de las opiniones políticas de un usuario, tienden a reflejar esas opiniones. Según los investigadores, este comportamiento podría exacerbar la polarización política en Brasil.

La influencia política de estas herramientas no se produce necesariamente de forma directa, a través de sugerencias para votar por candidatos específicos. Zanoni Dias, catedrático del Instituto de Informática (IC-UNICAMP), señala que, al abordar temas controvertidos como la seguridad pública, el bienestar social, la economía y el medio ambiente, los modelos pueden adoptar perspectivas alineadas con la postura política del usuario.

Para comprender cómo se posicionan estas herramientas y cómo podrían influir en el debate político brasileño, los investigadores evaluaron 21 modelos de lenguaje bajo tres condiciones: sin información sobre la postura política del usuario, con un usuario alineado con la izquierda y con un usuario alineado con la derecha.

Entre los sistemas evaluados se encontraban modelos de las familias GPT, Grok, Llama, Gemini y Gemma. Los resultados mostraron que todos ellos modificaron sus respuestas, en distintos grados, en función de la afiliación política del usuario.

Camaleones ideológicos

Cuando no se disponía de información sobre la postura política del usuario, 20 de los 21 modelos se situaron a la izquierda del punto medio en la escala de los investigadores, aunque algunos se encontraban muy cerca de él. La única excepción fue Grok 4.1, que inicialmente se situó a la derecha.

Cuando se proporcionó la postura del usuario, todos los modelos ajustaron sus respuestas para alinearse con ella, un comportamiento que los investigadores describieron como "camaleónico". Sin embargo, algunos modelos variaron sus respuestas más que otros, lo que permitió a los científicos crear el "índice camaleónico".

Meta Llama 3.1 8B obtuvo el índice más bajo, lo que significa que modificó sus respuestas menos para alinearse con las opiniones del usuario. Por el contrario, Gemma 3 27B de Google y GPT-5 Nano de OpenAI obtuvieron los índices más altos y, por lo tanto, los mayores cambios de postura. Si bien las respuestas no son incorrectas desde el punto de vista fáctico, sí tienen un sesgo político, ya que omiten hechos y opiniones que entran en conflicto con el punto de vista preferido del usuario.

Los investigadores temen que este comportamiento adaptativo cree cámaras de eco que refuercen las creencias preexistentes de los usuarios y reduzcan su exposición a contraargumentos que podrían llevarlos a cuestionar su visión del mundo.

"Es un efecto similar al que vemos en las redes sociales. Si estás en Facebook o Instagram, solo ves publicaciones que coinciden con tus gustos. Cuando le das "Me gusta" a la publicación de alguien, el algoritmo empieza a mostrarte más contenido de ese tipo. Como no puedes ver lo que dicen los demás, podrías felicitarte a ti mismo y decir: 'Mira, todos están de acuerdo conmigo', porque solo se muestra ese tipo de información. Los modelos de lenguaje podrían terminar produciendo un efecto similar", explica Dias.

El cambio de postura no fue uniforme en todos los temas evaluados. En cuanto a cuestiones como la seguridad pública y la economía, se observó una mayor diferencia en las respuestas de los usuarios de izquierda y de derecha. Sin embargo, en lo que respecta a temas relacionados con la corrupción, la justicia y las instituciones democráticas, las respuestas fueron más consistentes.

Según los investigadores, este patrón podría estar relacionado con las restricciones y los mecanismos de seguridad implementados durante el entrenamiento y el ajuste de los modelos. Las empresas desarrolladoras suelen imponer estas reglas, o "mecanismos de seguridad", para evitar que la IA difunda desinformación o discursos peligrosos sobre el sistema democrático.

Aduladores electrónicos

La base del comportamiento camaleónico de los modelos de lenguaje podría ser su tendencia a halagar. Esta característica bien conocida de la inteligencia artificial lleva a los modelos a coincidir con los usuarios en diversos contextos, incluidas las posturas políticas. Este comportamiento halagador podría estar relacionado con la forma en que se calibran estos sistemas. Técnicas como el aprendizaje por refuerzo a partir de la retroalimentación humana y la optimización directa de preferencias utilizan evaluaciones o preferencias humanas para favorecer las respuestas consideradas más apropiadas.

"En términos sencillos, los modelos aprenden comparando las respuestas que los evaluadores humanos consideran mejores o peores", explica Anderson Luis Bento Soares, estudiante de maestría en IC-UNICAMP. Un posible efecto secundario de este proceso es que el modelo aprende a priorizar la conformidad o satisfacción del usuario.

"Es difícil distinguir entre complacer al usuario y proporcionar una respuesta correcta", explica Dias.

No se vislumbra ninguna solución

Aunque los investigadores identificaron el problema, no creen que se resuelva pronto. Una de las razones es que las empresas que desarrollan estas herramientas se centran en solucionar otros problemas. "Hemos observado que el sector presta mucha más atención a la veracidad de las respuestas que a adaptarlas a la perspectiva del usuario. Este segundo aspecto aún no parece ser una prioridad, por lo que los cambios significativos podrían tardar", predice Dias.

El estudio se publicó en mayo en la revista Scientific Reports: LLMs are ideological chameleons: personalized echo chambers in the Brazilian political context