Los filtros de Meta colapsan ante la desinformación electoral y el golpismo, alerta Amnistía Internacional
Los mecanismos que utiliza Meta para frenar la difusión de desinformación electoral en su plataforma publicitaria de Facebook son ineficaces. Así lo concluye un experimento realizado por Amnistía Internacional en Brasil, que reveló una brecha entre las políticas de moderación de contenido que la empresa declara para combatir la manipulación de votantes y su aplicación práctica.
Desde su aparición, las plataformas de interacción social se han utilizado para difundir contenidos engañosos o falsos que buscan influir en el criterio y la percepción de la sociedad a gran escala. Diversas investigaciones han advertido que, en el marco de los procesos electorales, estos contenidos tienen la capacidad de confundir al electorado, generar revueltas sociales y socavar el cumplimiento efectivo de procesos democráticos.
El informe “IA generativa y su influencia en las elecciones de México 2024” revela hallazgos como el uso limitado de deepfakes, el efecto Liar’s Dividend y casos de violencia política de género, mientras destaca la adopción temprana de IA en tribunales electorales.
Meta, al igual que otras compañías que operan redes sociales, ha implementado mecanismos y políticas diseñados para detectar, frenar y eliminar campañas de desinformación y manipulación. Sin embargo, la evidencia sobre la eficacia de estas medidas aún es reducida.
Amnistía Internacional diseñó un experimento para poner a prueba las salvaguardas de la plataforma publicitaria de Facebook. En entrevista con WIRED en Español, Ummar Bashir, investigador y asesor sobre Inteligencia Artificial y Derechos Humanos de la organización, explicó: “Elegimos el sistema publicitario de Facebook porque el riesgo no está únicamente en que circule información falsa de manera orgánica. La publicidad permite pagar para amplificar un mensaje y dirigirlo con enorme precisión a determinados segmentos de la población, utilizando información sobre ubicación, demografía, intereses y comportamiento online. En un contexto electoral, esa capacidad puede aumentar significativamente el impacto de la desinformación”.
La organización creó 15 anuncios en portugués que debían mostrarse exclusivamente a ciudadanos brasileños en edad de votar. De estos materiales, uno era neutro y 14 contenían información falsa o inexacta, así como contenidos capaces de interferir con el funcionamiento de procesos políticos. Los anuncios fueron creados con base en conversaciones en línea, opiniones expresadas en redes sociales y otros contenidos publicados en Facebook y X entre enero y mayo de 2026, relacionados con las próximas elecciones generales, que incluirán la elección presidencial en Brasil en octubre.
Las 14 publicaciones con desinformación se diseñaron para replicar tres prácticas asociadas con frecuencia a discursos políticos que, según la ONG, pueden favorecer prácticas autoritarias: “deslegitimación electoral”, destinada a socavar la confianza en las elecciones, los sistemas de votación o sus resultados; “construcción de un enemigo”, mediante la presentación de adversarios políticos y tribunales como amenazas para la nación o como actores ilegítimos; y “autoritarismo centrado en la seguridad”, que presenta la fuerza, la intervención militar o un gobierno autoritario de mano dura como respuestas necesarias frente a la delincuencia o el desorden político.
El reporte de Amnistía Internacional asegura que “todos los anuncios, excepto el neutro, violaban la política de Meta sobre información errónea, en concreto su apartado ‘Interferencia electoral o censal’”.
La organización explica que, además, los anuncios fueron divididos en dos grupos de siete piezas cada uno. El primero estaba integrado por afirmaciones deliberadamente engañosas sobre candidatos e instituciones electorales, como acusaciones de que determinados candidatos estaban amañando las elecciones o cuestionamientos a la integridad del sistema electoral. El segundo contenía información falsa capaz de afectar directamente la capacidad de las personas para votar, incluyendo datos incorrectos sobre cuándo o cómo ejercer el voto, o sobre quiénes competían en las elecciones.
El total de las publicaciones fue enviado desde una cuenta nueva, sin verificación y creada desde Londres, para evitar que el historial o la actividad previa del perfil influyeran en los mecanismos de moderación de contenido.
Cabe destacar que los anuncios utilizados en el experimento se programaron para una publicación futura y no inmediata, lo que garantizó que las piezas relacionadas con desinformación jamás llegaran a la audiencia objetivo.
Las fallas del sistema de moderación de Meta en Facebook
Los resultados mostraron que ocho de los 15 anuncios enviados fueron aceptados por la plataforma publicitaria de Facebook, a pesar de que la mayoría contenía información inexacta o errónea, o con capacidad para manipular a la audiencia.
De los anuncios no aceptados, dos pertenecían a la categoría de “autoritarismo centrado en la seguridad” e incluían desinformación que abogaba por la intervención militar o la abstención electoral.
Los otros siete —incluido el neutro— fueron rechazados por estar relacionados con “temas sociales, elecciones o política” y no provenir de una cuenta verificada. “Es importante señalar que estos avisos de rechazo no indicaban que los anuncios hubieran sido rechazados por su contenido y, por consiguiente, no proporcionaban indicación alguna sobre cómo habrían sido valorados si la cuenta hubiera sido verificada”, precisa el reporte de la ONG.
El experimento también detectó fallas en otras salvaguardias electorales. Los anuncios pudieron ser presentados sin declarar que pertenecían a las Categorías de asuntos especiales de Facebook, algo que, según Amnistía, exige tanto la legislación electoral brasileña como las propias políticas de Meta sobre publicidad electoral. Además, debido a que la identidad de la cuenta no estaba verificada, los anuncios pudieron presentarse sin el aviso “Pagado por”, que Meta exige para identificar contenidos con fines electorales.
El ejercicio también evidenció el riesgo para la democracia local que suponen las campañas de influencia política extranjeras. “El hecho de que los anuncios pudieran ser presentados desde fuera de Brasil plantea la preocupación de que unos controles inadecuados de verificación e información puedan crear vulnerabilidades que podrían ser aprovechadas por actores nacionales o extranjeros para tratar de influir en los procesos electorales”, señala el informe de Amnistía Internacional.
Los sistemas de moderación de contenido de Meta utilizan inteligencia artificial (IA) para identificar publicaciones sospechosas de infringir sus políticas de uso. Tras la detección, las piezas identificadas son evaluadas, en ciertos casos, por moderadores humanos, quienes se encargan de confirmar las violaciones y, en su caso, retirar, restringir o rechazar el anuncio.
El experimento de Amnistía Internacional puso en duda la eficiencia de este procedimiento, cuando menos en materia de desinformación electoral. La organización encontró que, por ejemplo, los mecanismos de contención de la plataforma publicitaria de Facebook parecían ser más eficaces para detectar anuncios que presentaban a los adversarios políticos como “delincuentes”, “traidores” o actores ilegítimos.
Entre un modelo de negocio y la poca transparencia en los procesos de moderación
Sin embargo, el sistema mostró un desempeño considerablemente menor ante contenidos con retórica militar. Tres de los cuatro anuncios que utilizaban este tipo de discurso, dirigidos contra el Estado de derecho y que pedían que el ejército tomara el poder, consiguieron superar los mecanismos de moderación. Uno de ellos sostenía que era necesaria una revolución militar, llamaba a no votar y afirmaba que el ejército recuperaría el poder si la abstención superaba 50%.
Bashir matiza que los resultados deben entenderse con cierta cautela. “Debemos ser precisos: el experimento evalúa el sistema de moderación de Meta en su conjunto y no permite determinar qué porcentaje del fallo corresponde a inteligencia artificial y cuál a revisión humana. Lo que sí demuestra es que, como sistema integral, las salvaguardias no funcionaron de manera suficientemente fiable”, precisó.
Amnistía Internacional asegura que, tras sus hallazgos, contactó a Meta en julio pasado para solicitar una respuesta a sus cuestionamientos sobre la capacidad de los sistemas de moderación publicitaria de Facebook para detectar desinformación electoral y sobre la idoneidad de sus mecanismos para identificar, evaluar y reducir riesgos relacionados con los derechos humanos. Sin embargo, no recibió respuesta.
La organización concluye que los sistemas de moderación de contenido electoral de Meta incumplen las normativas internacionales al respecto, que establecen que las compañías tienen la responsabilidad de evitar causar, contribuir o quedar directamente vinculadas con impactos negativos sobre los derechos humanos, lo que implica identificar, prevenir y mitigar esos riesgos de manera proactiva.
El informe recuerda que cerca del 98% de los ingresos de la empresa provienen de la publicidad, por lo que sugiere que el incumplimiento está directamente relacionado con su modelo de negocio. En este contexto, Ummar afirma que la solución del problema no puede limitarse al rechazo o eliminación de la información falsa. Asu juicio, la empresa debería impedir que la presentación de los anuncios electorales desde cuentas no verifacadas, aplicar efectivamente las etiquetas de identificación de contenidos, reforzar significativamente la capacidad de moderación en otros idiomas fuera del inglés, entrenar y evaluar sus sistemas frente a narrativas locales y ofrecer mayor transparencia sobre cómo intervienen la IA y las personas revisoras en sus procesos de moderación.
“El problema de derechos humanos no es simplemente que 'haya noticias falsas. Lo que está en juego es el derecho de las personas a acceder a información fiable y a participar libre y significativamente en los asuntos públicos, incluido su derecho al voto, y la responsabilidad de una empresa que tiene capacidad tecnológica y económica para reducir esos riesgos”, concluyó el especialista.