Qué es la 'slop jihad', la estrategia con IA usada por extremistas para viralizar propaganda en TikTok
Hace más de una década, el Estado Islámico (EI) difundió un video inquietante en el que se veía a sus miembros sumergiendo en una piscina a unos hombres encerrados en una jaula y ahogándolos. Hoy en día, ese clip se ha reproducido en forma de dibujo animado de Bob Esponja, en el que aparecen peces con monos naranjas dentro de la jaula, mientras Bob Esponja sumerge la jaula en el agua y Calamardo graba la escena.
El video, compartido en TikTok, forma parte de lo que un nuevo informe del Instituto de Diálogo Estratégico (ISD) denomina 'Slop Jihad', una tendencia en la que jóvenes simpatizantes de grupos terroristas islámicos como el ISIS y Al Qaeda usan herramientas de IA para crear montajes de fans, dibujos animados y memes diseñados para radicalizar a una nueva generación de seguidores en línea.
"Este cambio señala una transformación fundamental en la estética de la propaganda yihadista en internet", concluye el informe, que se ha compartido en exclusiva con WIRED.
"La principal preocupación es el creciente volumen y la diversidad de este material", afirma Adam Hadley, CEO de Tech Against Terrorism, una organización antiterrorista respaldada por la ONU que también ha publicado un informe sobre la tendencia del Slop Jihad. Añade que el contenido generado por IA puede hacer que el material extremista sea más accesible para el público joven, al tiempo que reduce la visibilidad de la imagen tradicional del terrorismo.
"Los usuarios pueden encontrarse sin buscarlo con contenido que glorifica a los perpetradores, como ediciones de fans, caricaturas, memes y otros formatos de entretenimiento. Al interactuar con ese contenido, el algoritmo puede empezar a recomendarles propaganda relacionada y cada vez más explícita".
Los extremistas encontraron nuevas formas de compartir contenido
Los grupos terroristas islámicos llevan mucho tiempo demostrando su capacidad para adaptarse a los nuevos entornos mediáticos, aprovechando las tecnologías nuevas y emergentes para facilitar el reclutamiento y crear una red descentralizada de propaganda. Esto se observó en el movimiento 'Alt Jihad' de principios de la década de 2020, que pretendía incorporar la estética de la 'alt-right' en los contenidos de terrorismo islámico.
Estos grupos también llevan varios años utilizando IA. En 2024, el programa de noticias News Harvest, afiliado al Estado Islámico, comenzó a utilizar presentadores generados por IA para ayudar a difundir videos propagandísticos de forma rápida y económica. Pero hoy en día, el aspecto y el estilo del contenido generativo son notablemente diferentes.
"Es un fenómeno nuevo y sigue creciendo; todavía está lejos de alcanzar su punto máximo. Siempre ha habido contenido de muy mala calidad, pero antes no veíamos cosas como Bob Esponja convertido en propaganda del Estado Islámico", afirma Moustafa Ayad, catedrático de investigación en islamismo global y lucha antiterrorista del ISD.
Las herramientas de IA generativa también se han utilizado para convertir el contenido oficial de los grupos terroristas en clips animados. Por ejemplo, una cuenta de TikTok convertía el boletín semanal Al-Naba del ISIS en anime.
La tendencia Slop Jihad ha suscitado cierta oposición por parte de los seguidores más tradicionales a quienes no les gusta la nueva estética. "Existe cierta antipatía hacia ella, porque no creen que los creadores de esta basura de IA sean verdaderos creyentes", menciona Ayad, refiriéndose a algunas reacciones al video de Bob Esponja. Agrega: "Pero algunas cuentas que antes compartían propaganda oficial ahora también están republicando estos videos. Eso demuestra que existe una relación ambivalente con el contenido de Slop Jihad".
En X abundan este tipo de contenidos, que van desde historias narrativas hasta videos de hipnosis y se utilizan como material para la masturbación.
El afán de usar TikTok para viralizar Slop Jihad
Desde hace años, TikTok ha sido fundamental en la campaña de comunicación en línea de los grupos terroristas islámicos, que aprovechan las recomendaciones algorítmicas de la plataforma para difundir su mensaje. Un informe de la Organización para la Cooperación y el Desarrollo Económicos de 2024 reveló que TikTok se encontraba entre las diez principales plataformas utilizadas para difundir contenido terrorista y extremista.
Aunque Ayad encontró un número limitado de videos de Slop Jihad en otras plataformas como Instagram y Facebook, la gran mayoría de los videos se localizaron en TikTok. En total, encontró 150 clips procedentes de 71 cuentas, con más de 5.4 millones de visualizaciones en total en la plataforma. Ayad cree que la prevalencia de este contenido en TikTok se debe al algoritmo de la página Para ti (FYI) de la plataforma, "que está hiperorientado a los intereses de los usuarios". También atribuye este fenómeno al alto nivel de contenido basura generado por IA en general en la plataforma y a "un ecosistema arraigado de apoyo yihadista en la plataforma".
TikTok rebatió las conclusiones del informe. "Este documento llega a conclusiones mal fundamentadas y no refleja cómo utiliza la gente nuestra plataforma. Prohibimos la presencia de organizaciones violentas y que incitan al odio, y empleamos tecnología avanzada de moderación, equipos de seguridad y colaboraciones para detectar y eliminar de forma proactiva el contenido que incumple las normas. Todo el contenido al que se hace referencia en este informe ha sido eliminado de TikTok", afirma un portavoz de la red social a WIRED.
Decenas de los clips identificados por el ISD fueron eliminados después de que WIRED los compartiera con TikTok.
La IA facilita todo el proceso a los grupos islámicos
WIRED compartió el informe del ISD con varios expertos externos que estudian cómo los grupos terroristas islámicos utilizan las redes sociales para radicalizar a sus seguidores. En términos generales, todos coincidieron con sus conclusiones.
"Lo más llamativo es la facilidad con la que la IA generativa permite a un grupo mucho más amplio y descentralizado de usuarios remezclar figuras e imágenes yihadistas. Ese contenido puede circular por comunidades atraídas no solo por la ideología yihadista, sino también por la violencia o la búsqueda de notoriedad", explica a WIRED Aaron Zelin, investigador especializado en extremismo yihadista del Washington Institute for Near East Policy.
Aunque Ayad admite que algunos de los contenidos más descabellados de Slop Jihad pueden resultar difíciles de identificar como relacionados con el terrorismo, gran parte de ellos apoyan claramente a los grupos e ideologías terroristas. TikTok eliminó algunas de las cuentas que Ayad estaba vigilando, pero muchas de ellas tienen cuentas de respaldo y han indicado a sus seguidores dónde pueden encontrarlas en caso de que sean baneadas.
Ayad concluye que parte de este contenido permanece activo durante meses y sigue esquivando los sistemas de moderación, incluidos los modelos de IA diseñados para detectar material terrorista.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.