Los chatbots de IA son camaleones ideológicos capaces de crear cámaras de eco personalizadas

El domingo 4 de octubre se llevarán a cabo las elecciones generales en Brasil, quizás el proceso electoral más anticipado del año en América Latina al tratarse del país con la economía y población más grande de la región. En la contienda presidencial, Luiz Inácio Lula da Silva busca la reelección para llegar a su cuarto mandato, mientras que su rival más próximo, Flávio Bolsonaro, hijo del expresidente Jair Bolsonaro, buscará consolidar el dominio total de las fuerzas políticas de derecha en América del Sur. Por ello, hay mucho en juego en estas elecciones, pero a diferencia de otras campañas en el pasado, los votantes están recurriendo a un nuevo medio para mantenerse informados: la inteligencia artificial.

Desde preguntas sencillas como “¿cuáles son las propuestas de Flávio?” a consultas más complejas como “¿qué candidato se parece más a mis ideas?”, usuarios buscan en los chatbots respuestas que otros medios tradicionales no pueden atender, al menos no de manera tan rápida, directa y personalizada. Los grandes modelos de lenguaje (LLM) suelen presentarse como herramientas capaces de responder preguntas políticas de manera objetiva y confiable. Sin embargo un nuevo estudio realizado en el contexto político brasileño plantea que muchos de estos sistemas no mantienen una posición ideológica estable. Al contrario, más bien modifican sus respuestas para acercarse a la postura política que atribuyen al usuario. Los autores llaman a este fenómeno “comportamiento camaleónico ideológico” y lo interpretan como una forma de complacencia (sycophancy, en inglés).

Investigadores del Instituto de Computação de la Universidad Estadual de Campinas (Unicamp) evaluaron el comportamiento de 21 modelos de lenguaje por medio de un conjunto de afirmaciones contrapuestas sobre siete áreas de la política brasileña: bienestar social, seguridad, instituciones democráticas, medio ambiente, economía, educación y cultura, y corrupción y justicia. En total, los investigadores analizaron 47,376 respuestas generadas bajo distintas condiciones.

El experimento fue diseñado para determinar qué ocurre con la posición política aparente de un modelo cuando sabe que está conversando con una persona que se identifica de izquierda o de derecha. El estudio fue publicado en Scientific Reports, una revista de Springer Nature.

Aprendizaje subliminal: una nueva investigación decubrió que la IA “hereda” sesgos y comportamientos de otros sistemas cuando son entrenados con datos sintéticos.

Si no le gustan mis principios, aquí tengo otros

Los investigadores construyeron 56 pares de afirmaciones políticas opuestas. Después sometieron estos 112 enunciados a los 21 modelos estudiados. Cada uno debía expresar su grado de acuerdo en una escala de cinco puntos, desde “fuertemente en desacuerdo" hasta “fuertemente de acuerdo”. El mismo ejercicio se repitió bajo tres condiciones: sin información sobre la ideología del usuario, con un usuario identificado como de izquierda y con uno identificado como de derecha.

Cuando no había información sobre la postura política del usuario, 20 de los 21 modelos mostraron valores negativos en el índice utilizado por los investigadores para medir su posición ideológica, lo que indica una mayor inclinación hacia las afirmaciones clasificadas como de izquierda dentro de este conjunto específico de preguntas. Sin embargo, los autores advierten que este resultado no debe interpretarse como una medida absoluta del sesgo político de los modelos, debido a posibles diferencias retóricas entre las afirmaciones enfrentadas.

El hallazgo más interesante apareció cuando se modificó únicamente la identidad política atribuida al usuario. Cuando este era presentado como de izquierda, los modelos tendían a desplazarse hacia posiciones más izquierdistas. Cuando era presentado como de derecha, todos los modelos se movían hacia el lado derecho, y la mayoría llegaba a cruzar desde una posición de izquierda hacia una posición favorable a las afirmaciones de derecha. En muchos casos, el desplazamiento provocado por el usuario era mayor que las diferencias existentes entre los modelos cuando respondían sin contexto ideológico.

No todos los sistemas fueron igualmente susceptibles. Algunos, como Gemma 3n E2B IT, GPT-5 Nano y Grok 4.1 Fast Reasoning, mostraron grandes desplazamientos ante usuarios de distintas orientaciones. Otros, como Llama 3.1 8B Instruct y DeepSeek-V3.2, conservaron posiciones comparativamente más estables. El tamaño del modelo, además, no explicó esta diferencia. Los investigadores no encontraron una relación lineal considerable entre el número de parámetros y el índice de comportamiento camaleónico.

El fenómeno tampoco apareció con la misma intensidad en todos los asuntos. Economía y seguridad fueron los temas donde se observaron mayores cambios, mientras que instituciones democráticas, corrupción y justicia mostraron respuestas más estables. Los autores plantean que esto podría estar relacionado con restricciones más estrictas introducidas durante el entrenamiento de seguridad de los modelos.

Otro resultado relevante fue que el cambio no consistía simplemente en pasar de una opinión fuerte a una posición más moderada. Las respuestas tendían a concentrarse en “de acuerdo” y “fuertemente de acuerdo”. Cuando se hacía explícita la ideología del usuario, los modelos cambiaban con frecuencia qué lado de las afirmaciones enfrentadas apoyaban, a menudo con un elevado grado de confianza.

Una cámara de eco inteligente

Para los investigadores, esto plantea un problema que va más allá de determinar si un modelo es “de izquierda” o “de derecha”. El estudio nos muestra cómo la IA puede parecer relativamente objetiva al evaluarla sin contexto y, al mismo tiempo, comportarse de manera muy distinta cuando conoce las preferencias políticas de quien la consulta. Pero quizás el riesgo más alarmante de este fenómeno es que el asistente termine funcionando como una cámara de eco personalizada, reforzando convicciones previas del usuario en lugar de someterlas a contraste.

Los autores son cautelosos respecto al alcance de sus conclusiones por varios motivos. El estudio se limita al contexto brasileño, utiliza un conjunto concreto de temas y afirmaciones, analiza interacciones de un solo turno y evalúa 21 modelos durante un periodo determinado. Además, no mide si las respuestas modifican efectivamente las opiniones de las personas. También reconocen que no pueden garantizar una simetría perfecta entre las afirmaciones de izquierda y derecha utilizadas en el experimento.

Aun con esas limitaciones, el estudio propone cambiar la manera en que se evalúa el sesgo político de la IA. En lugar de preguntar únicamente "¿qué postura política tiene este modelo?", los investigadores sugieren preguntar “¿cuánto cambia su postura cuando descubre qué piensa el usuario?”. En el pasado, la crítica al diseño algorítmico de las redes sociales expuso los problemas que surgen de crear cámaras de eco, sobre todo en contextos políticos como en tiempos de campaña. La IA generativa monta el escenario para que se vuelva a desarrollar esa situación pero en un nuevo entorno virtual. Por ello, evitar esa complacencia ideológica debería convertirse en un objetivo central del diseño, la evaluación y la gobernanza de los modelos de lenguaje capaces de intervenir en conversaciones políticas.

Puedes consultar el estudio completo aquí.