Los anuncios de Meta están plagados de contenido explícito de menores hecho con IA

Durante los últimos nueve meses, Meta, la empresa de Mark Zuckerberg, ha publicado docenas de anuncios de pago que incluyen material explícito de abuso sexual infantil (CSAM) generado por IA e imágenes de menores acompañadas de mensajes de carácter sugerente, según los detalles de los anuncios facilitados a WIRED. Los anuncios, que en algunos casos llegaron a miles de cuentas, estaban dirigidos a personas que viven en EE UU, Reino Unido y más de una docena de países europeos.

Este artículo contiene descripciones de imágenes que representan abusos sexuales a menores. Se recomienda discreción.

Las plataformas de Meta están plagadas de contenido no consentido

Investigadores del Tech Transparency Project (TTP) descubrieron recientemente en la biblioteca de anuncios de Meta más de 50 con imágenes y videos que contenían contenido abusivo; los listados revelaban que algunos anuncios enlazaban a las conocidas aplicaciones de desnudos. La biblioteca de anuncios de Meta, una herramienta de transparencia que cataloga los anuncios mostrados en las plataformas de la empresa, muestra que los anuncios se publicaban en Facebook, Instagram, Messenger y/o Threads. Estos hallazgos suponen la segunda vez en las últimas semanas que se han encontrado anuncios de pago vinculados a material de abuso sexual infantil en las plataformas de Meta.

"Estos anuncios no hicieron ningún esfuerzo por disimular las imágenes ni ocultar lo que promocionaban. Es importante señalar que no se trata de contenido publicado por terceros, sino de anuncios revisados, aprobados y autorizados por Meta, que no sufrieron ninguna interferencia mientras se recaudaban los ingresos publicitarios", declaró a WIRED Katie Paul, directora de TTP, un grupo de vigilancia independiente.

Los anuncios descubiertos por los investigadores, que ya fueron eliminados por Meta por infringir sus políticas sobre material de abuso y explotación sexual infantil, así como sobre incitación sexual a adultos y desnudez, se publicaron entre noviembre del año pasado y principios de agosto. Según los datos de la biblioteca de transparencia publicitaria de Meta, estos anuncios solían permanecer activos durante varios días y algunos se dirigían exclusivamente a hombres.

Según los investigadores de TTP, un anuncio de video utilizaba una imagen en miniatura de un niño sentado en el suelo con un texto superpuesto que decía: "Haz realidad tus fantasías más profundas con la IA. Hay mucho más de lo ves, usa tu imaginación". Los investigadores afirman que, al hacer clic en el anuncio, se reproducían videoclips de adultos realizando actos sexuales y, a continuación, se añadía el rostro del niño de la miniatura a una escena sexual.

Otro anuncio que, según los investigadores, se había publicado repetidamente, mostraba la imagen de una niña recostada con las piernas abiertas en una posición sexual, con un texto superpuesto que decía: "Puedo mostrarte más".

La mayoría de los anuncios no se mostraban activamente a los usuarios cuando los investigadores los encontraron, pero siguieron disponibles, aparentemente sin ser detectados, en la biblioteca de anuncios de Meta durante meses. Aunque muchos de los anuncios, según los datos de Meta, solo "llegaron" a un puñado de cuentas, al menos uno llegó a 2,563 cuentas en Francia, Alemania, Irlanda, Italia, los Países Bajos, España, Suecia y Reino Unido. La biblioteca de anuncios de Meta no incluye detalles sobre el rendimiento de la propaganda en EE UU ni en todos los países, por lo que el alcance total podría ser mayor.

Paul afirma que TTP descubrió los anuncios la semana pasada mientras sus investigadores continuaban investigando, luego de redactar un informe sobre un socio publicitario chino que los publicaba. Paul añade que la organización informó inmediatamente de los hallazgos a la Línea Directa Cibernética del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que permite denunciar material de abuso sexual infantil en línea. Un portavoz del NCMEC declaró que no hacen comentarios sobre las denuncias que reciben.

Después de que WIRED avisara a Meta, la empresa eliminó los anuncios de su plataforma. "La explotación sexual es terrible y trabajamos para erradicarla de nuestra plataforma", declaró un portavoz de Meta. Añade: "La mayoría de estos anuncios tenían un alcance mínimo y muchos fueron desactivados antes de que WIRED los compartiera. Además, muchos de ellos son anteriores a la nueva tecnología de IA que lanzamos para detectar y bloquear los anuncios que infringen las normas al momento de la publicación, y estamos mejorando constantemente estos sistemas. Seguiremos luchando sin descanso contra este abuso, desde la eliminación de más de 36 millones de contenidos de explotación sexual infantil el año pasado hasta las acciones legales emprendidas contra los desarrolladores de aplicaciones de contenido explícito".

Investigadores probaron los mejores modelos de edición de imágenes de Hugging Face y descubrieron que podían crear fácilmente deepfakes; además, 1000 ejemplos de edición de imágenes muestran cómo las personas utilizan el software.

Algunos de los anuncios eludieron la nueva tecnología de IA de Meta

Inicialmente, los investigadores de TTP encontraron alrededor de dos docenas de anuncios que mostraban el contenido sexual. Sin embargo, horas antes de la publicación, los investigadores descubrieron 30 más. Muchos de estos anuncios se habían publicado después de que WIRED preguntara por primera vez a Meta sobre el contenido, y varios de ellos seguían activos y se mostraban a las cuentas en el momento en que los investigadores los descubrieron.

Paul afirma que esta tanda incluía algunos de los peores casos que los investigadores habían visto. Uno de los anuncios mostraba una miniatura de una niña aplicándose brillo de labios, y cuando empezó a reproducirse, el clip se transformó en una escena sexual.

Las políticas de Meta establecen que todos los anuncios se revisan antes de su publicación, y que el sistema utiliza "principalmente herramientas automatizadas" para comprobar que cumplen con dichas normas. Las reglas publicitarias de la empresa estipulan que no se permite el material relacionado con la explotación sexual infantil y establecen que, cuando la empresa tiene conocimiento de ello, lo denuncia al NCMEC. Además, Meta establece que los anuncios no pueden incluir "imágenes que muestren desnudos, actividad sexual, ni representaciones de personas en posturas explícitas o sugerentes".

La biblioteca de anuncios de Meta ahora muestra que los anuncios encontrados por los investigadores de TTP fueron eliminados por violar las políticas de la compañía, mostrando mensajes que indicaban que infringían las normas sobre "explotación sexual infantil, abuso y desnudez" y "actividad sexual".

A principios de julio, una investigación de BBC reveló que Instagram estaba publicando anuncios que promocionaban la venta de presunto material de abuso sexual infantil en la India. Según el reportaje, los anuncios utilizaban términos como "video de violación" y enlazaban a canales de Telegram donde se podía adquirir el contenido ilegal. En respuesta, Meta publicó un extenso comunicado en el que afirmaba que aplica una política de "tolerancia cero" ante la explotación sexual infantil.

Paul afirma que, dentro de la tanda de anuncios analizado por sus investigadores, aparecieron algunos idénticos que Meta había eliminado previamente por infringir sus políticas. "Esto plantea serias dudas sobre la seriedad con la que Meta aborda la explotación infantil en la publicidad de pago", declara Paul, añadiendo que no existen mecanismos dentro de la propia biblioteca de anuncios para denunciar contenido que pueda infringir las políticas de Meta una vez que los anuncios ya no están activos.

Según Paul, los anuncios fueron publicados principalmente por cuentas de Meta con pocos seguidores o ninguno. Cuando se reveló la identidad de quienes habían pagado por ellos, se descubrió que estaban vinculados con empresas chinas. Uno de los casos identificados por los investigadores de TTP fue el de un anuncio que mostraba a una niña recostada. Los datos de Meta lo relacionaban con un anunciante de Meet Social, una empresa china que en su momento formó parte de la red de revendedores de publicidad de Meta. Estos intermediarios gestionan anuncios en China, donde las plataformas sociales de la compañía están bloqueadas.

Según un perfil publicado por The New York Times en 2019, Meet Social colocaba miles de anuncios diarios en Facebook y proyectaba generar más de mil millones de dólares en ventas. Meet Social no respondió a la solicitud de comentarios de WIRED.

Según un análisis de WIRED e Indicator, casi 90 escuelas y 600 estudiantes de todo el mundo se han visto afectados por imágenes de desnudos falsos generadas por IA, y el problema no muestra signos de desaparecer.

La app MaskAI estaría involucrada

Varios de los anuncios de Meta encontrados por los investigadores de TTP enlazaban a una aplicación llamada MaskAI que aparecía en la App Store de Apple. Según un análisis de WIRED, la app, vinculada a un desarrollador de software chino, no mostraba ningún contenido explícito antes de su descarga. Sin embargo, una vez abierta, contenía exclusivamente pornografía generada por IA e incluía funciones que permitían a los usuarios subir imágenes e intercambiar rostros en contextos sexuales.

Tras ser contactada por WIRED, una portavoz de Apple afirmó que la empresa había retirado MaskAI de la App Store por infringir sus políticas contra las aplicaciones de desnudos, y que la empresa "siempre ha prohibido las aplicaciones diseñadas para generar, distribuir o consumir pornografía". La dirección de correo electrónico vinculada a MaskAI no respondió a la petición de comentarios de WIRED. Otros anuncios enlazaban con diferentes aplicaciones o sitios web.

Desde aproximadamente 2020, con el avance del aprendizaje automático y la posterior IA, ha surgido en línea una gran cantidad de servicios para hacer desnudos mediante IA, que generan millones para sus creadores y causan daños incalculables a innumerables mujeres. También se han utilizado para crear material de abuso sexual infantil, lo cual es ilegal en países de todo el mundo.

Después de que WIRED contactara por primera vez a Meta sobre los hallazgos de TTP, la compañía solicitó a dos organizaciones de seguridad en línea que proporcionaran comentarios a WIRED para este artículo. Sean Litton, el CEO saliente de Tech Coalition, un grupo que trabaja con empresas tecnológicas para combatir el abuso en línea, declaró que Meta ha compartido "miles de URL que infringen las normas" con el servicio Lantern del grupo, que comparte información sobre contenido abusivo entre empresas. Un portavoz de Revenge Porn Helpline en Reino Unido, que trabaja para combatir las imágenes no consentidas de adultos, también respondió con una declaración elogiando la asociación de Meta con StopNCII.org y algunos de sus esfuerzos para combatir las imágenes íntimas sin permiso. "Hemos dejado claro que las aplicaciones de desnudos presentan un problema realmente complejo, no solo por quién está detrás de ellas, sino por la rapidez con la que este ecosistema se adapta a cualquier punto de aplicación de la ley", declaró Revenge Porn Helpline.

Alexios Mantzarlis, cofundador de Indicator, una publicación especializada en fraudes digitales, y exempleado del departamento de seguridad y confianza de Google, afirma haber encontrado y denunciado más de 25,000 anuncios de apps de desnudos con IA en las plataformas de Meta en los últimos años.Según la empresa, ha retirado más de 344,000 anuncios relacionados con estos programas y ha emprendido acciones legales contra una empresa de Hong Kong vinculada a una de estas plataformas.

"Los responsables de esta actividad están bien equipados para crear nuevas cuentas de anunciante y nuevos dominios que les permitan seguir adelante, aprovechando las mismas técnicas que utilizan las redes de estafas", explica Mantzarlis a WIRED. Añade que, por desgracia, esta industria basada en imágenes explícitas no consentidas ha pasado de ser "una novedad a convertirse en un elemento permanente de nuestro ecosistema online" debido a la falta de medidas por parte de las plataformas.

Artículo originalmente publicado en WIRED.com Adaptado por Alondra Flores.