San Francisco ordena a Meta frenar anuncios de explotación infantil generados con IA
El fiscal de San Francisco envió a Meta una carta de cese y desistimiento en la que insta a la empresa a dejar de "permitir" anuncios de pago que incluyan contenido de abuso sexual infantil generado por IA, y le ha pedido que explique cómo es posible que dichos anuncios se hayan publicado en sus plataformas.
A inicios de la semana, WIRED informó de que Meta había publicado más de 350 anuncios en los últimos meses que transformaban imágenes fijas de menores, algunos de ellos identificados como personas reales, incluido un miembro de una familia real europea, en breves videoclips en los que se les mostraba realizando actos sexuales. Al hacer clic en ellos, estos anuncios dirigían a los usuarios a descargar aplicaciones de generación de imágenes y videos mediante IA, algunas de las cuales podían utilizarse para desnudar a personas o crear otras imágenes íntimas no consentidas.
Anuncios con deepfakes no consentidos
Los anuncios, detectados por investigadores del Tech Transparency Project (TTP), incluían varias publicaciones idénticas que se habían subido repetidamente. En conjunto, llegaron a más de 29,000 cuentas en países de la Unión Europea. Los anuncios, que se mostraron en Facebook, Instagram y Threads, también se dirigían a cuentas de EE UU, Australia y la India. WIRED informó inicialmente sobre 53 de estos anuncios a principios de agosto, pero más de 250 del total se publicaron en las plataformas de Meta tras este informe inicial.
"Meta no ha resuelto un problema conocido de anuncios sexualmente explícitos con menores generados por IA, pese a seguir obteniendo ingresos de ellos. Estos anuncios son perturbadores y causan daño a niños reales. Meta asegura tener tolerancia cero con la explotación infantil, pero la magnitud y la persistencia de estos problemas sugieren que los esfuerzos actuales son insuficientes. Esto es inaceptable, y Meta debe mejorar su actuación", afirma el fiscal municipal de San Francisco, David Chiu, en una declaración a WIRED.
"Ninguna empresa, y menos aún una que afirme que todos los anuncios se revisan y aprueban antes de su distribución y que, además, acepte pagos por dicha distribución, debería permitir que sus sistemas publicitarios se utilicen de esta manera", escribe Chiu en la carta de cuatro páginas que su oficina envió a los abogados de Meta.
La carta plantea una serie de preguntas sobre el funcionamiento de las políticas publicitarias y los sistemas de seguridad de Meta, y solicita que el personal jurídico, de seguridad infantil y de publicidad de la empresa entable "conversaciones inmediatas" con la oficina municipal. "Estos hallazgos son preocupantes porque sugieren que no se trata de un fallo aislado que Meta corrigió tras ser alertada por primera vez", escribe Chiu.
Meta afirma que "no hay indicios" de que los anuncios se mostraran en San Francisco, lo que significa que están "fuera de la jurisdicción del fiscal". Aunque la biblioteca publicitaria de Meta, que es un repositorio de anuncios, incluye algunos datos sobre anuncios publicados en EE UU, no desglosa en qué lugares del país pueden haberse mostrado.
En respuesta a las alegaciones jurisdiccionales de Meta, el portavoz de la Oficina del fiscal, Alex Barrett-Shorter, explica a WIRED que, dado que "los consumidores de San Francisco pueden acceder a los anuncios ilegales a través de los espacios en línea de Meta", el asunto es competencia de la ciudad de San Francisco.
"Nos parece sorprendente la respuesta de Meta. La empresa está más preocupada por la jurisdicción de San Francisco que por los casos de explotación a menores", expresa Barrett-Shorter.
Apple ha anunciado varias funciones nuevas de seguridad infantil que estarán disponibles próximamente en los iPhone y otros dispositivos con iOS 27. Esto es lo que va a cambiar.
Meta se pronuncia al respecto
Meta declaró a WIRED que muchos de los anuncios identificados por los investigadores del TTP ya habían sido retirados antes de que se denunciaran, ahora todos ellos han sido eliminados por infringir sus políticas, y que la mayoría tenía "menos de 200 impresiones" en las cuentas. "No toleramos las aplicaciones de deepfakes generadas por IA ni ningún tipo de explotación infantil, ya sea real o generada por IA", declaró anteriormente un portavoz de Meta. La empresa afirmó que el "gasto publicitario total" de los más de 300 anuncios encontrados por los investigadores era inferior a 5,000 dólares.
La carta señala que la Fiscalía de San Francisco revisó muchos de los anuncios detectados por los investigadores de TTP. También exige a Meta que impida su publicación en Facebook e Instagram y explique cómo lograron eludir sus sistemas de moderación. Además, pide a la empresa que detalle cómo escala y denuncia estos anuncios ante el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), y qué medidas toma contra los anunciantes responsables y los reincidentes.
La carta continúa señalando que los hallazgos sugieren "problemas sistémicos más amplios" en la forma en que la empresa detecta posibles casos de abuso sexual infantil en la publicidad y que esto plantea importantes cuestiones legales para la empresa. "El objetivo de mi Oficina no es simplemente identificar fallos del pasado, sino garantizar que Meta establezca sistemas que impidan que los menores sean explotados a través de los anuncios que la compañía. A la par de que Meta cumpla de forma fiable con las obligaciones legales que surgen cuando tiene conocimiento de una aparente explotación sexual infantil", redacta Chiu.
Las conclusiones de TTP indican que Meta tardó más de una semana en responder a las denuncias sobre estos anuncios. Durante ese tiempo, cientos de personas más llegaron a verlos. Según TTP y un análisis de WIRED de la biblioteca de anuncios de Meta, algunos fueron retirados, pero al principio no se clasificaron como contenido de abuso sexual infantil.
"La magnitud, la persistencia y la naturaleza de los problemas aquí documentados sugieren que los esfuerzos aislados de Meta para retirar este tipo de contenido son insuficientes", señala la carta, que da a la empresa un plazo de 28 días para responder.
Siempre hay un espacio minúsculo para los desnudos en Meta
Las normas comunitarias y las políticas publicitarias de Meta no permiten la explotación sexual infantil, el abuso ni la desnudez tanto infantil como de adultos. La empresa tampoco permite la promoción de aplicaciones de desnudos. Las normas publicitarias de Meta establecen que todos los anuncios se revisan de acuerdo con sus políticas mediante revisiones automatizadas y, en ocasiones, manuales. La empresa ha eliminado cientos de miles de anuncios de aplicaciones de deepfakes.
Aunque Meta ha tomado medidas contra las aplicaciones de desnudos, incluida una demanda contra una empresa de Hong Kong vinculada a varias plataformas de deepfakes y acuerdos de colaboración con otras compañías tecnológicas, los investigadores siguen encontrando miles de anuncios que dirigen a los usuarios hacia estos servicios y muestran desnudos o contenido sexual. Durante la investigación de WIRED sobre las conclusiones de TTP, identificamos cientos de estos anuncios activos en las plataformas de Meta.
Katie Paul, directora del TTP, afirma que Meta "no está abordando de forma eficaz" el problema, y que siguen apareciendo en su plataforma anuncios que contienen material de abuso sexual infantil. "Según Meta, adopta una postura firme contra el material de abuso sexual infantil, pero desde que se publicó el informe del TTP el 8 de septiembre, se han publicado más anuncios nuevos en los que aparecen algunos de los mismos niños que el TTP envió a Meta", afirma Paul.
La organización denunció los anuncios ante Meta y el NCMEC, y señaló que algunos ya fueron retirados. Meta no respondió de inmediato a la pregunta de WIRED sobre la persistencia de los nuevos anuncios. "Las conclusiones son claras, Meta no está abordando este problema de forma eficaz, concluye Paul.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.