Por qué alertar que las IA son hackers peligrosas conviene tanto a sus creadores
Meta informó que uno de sus modelos de inteligencia artificial (IA) vulneró un sistema de terceros durante una serie de pruebas de ciberseguridad. El incidente es similar a los reportados recientemente por OpenAI y Anthropic. Según algunos analistas, estos reportes formarían parte de una estrategia con la que estas empresas buscan no solo mantenerse en el centro de la agenda mediática, sino también conservar el control sobre el desarrollo y regulación de esta tecnología.
A finales del mes pasado, OpenAI dio a conocer que dos de sus modelos de IA obtuvieron acceso no autorizado a los sistemas de producción de Hugging Face y otros servicios disponibles públicamente. En el incidente estuvieron involucrados GPT-5.6 Sol, recientemente lanzado, y otro modelo que aún no ha sido presentado.
Días después, Anthropic reveló que varios de sus modelos de IA consiguieron acceder sin autorización a los sistemas de tres organizaciones distintas, cuyos nombres no fueron revelados. La empresa indicó que en el hackeo participaron Opus 4.7, Mythos 5 y otro modelo experimental de investigación que no fue identificado.
Los críticos de Anthropic argumentan que está acumulando poder rápidamente. Por su parte, la compañía afirma que así es como se ve un desarrollo responsable de la IA.
Ahora, Meta informó que Muse Spark 1.1, su modelo más reciente, vulneró la seguridad de los sistemas de un servicio de terceros no identificado "de forma similar a los casos reportados anteriormente en otras empresas". En todos los casos, las violaciones de seguridad que afectaron a terceros ocurrieron durante procesos de evaluación debido a errores en la configuración de los entornos de prueba.
Pese a ello, los incidentes han reavivado las preocupaciones en torno al avance de los agentes de IA y su capacidad para detectar y aprovechar vulnerabilidades informáticas. Tras conocerse los primeros hackeos, OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral y otros laboratorios líderes en inteligencia artificial solicitaron el respaldo del gobierno de Estados Unidos para desarrollar mecanismos técnicos y de gobernanza con alcance internacional que permitan regular el ritmo de avance de la IA automatizada.
La petición se realizó por medio de una carta pública firmada por más de 1,200 empleados de compañías vinculadas con la industria de la inteligencia artificial. Entre los firmantes destacan ingenieros y ejecutivos de alto nivel, como el director ejecutivo de Anthropic, Dario Amodei; algunos de los cofundadores de esa empresa, Jared Kaplan y Jack Clark; Anca Dragan, responsable de seguridad de IA en Google; así como Jakub Pachocki y Shengjia Zhao, científicos jefes de OpenAI y Meta, respectivamente.
El documento señala que las principales compañías del sector consideran que están cerca de automatizar la investigación en inteligencia artificial, lo que podría multiplicar los beneficios de esta tecnología para la humanidad. No obstante, reconoce que ese escenario optimista no está garantizado, ya que "existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes".
Esta no es la primera ocasión en que las empresas de IA solicitan de manera conjunta frenar el ritmo de desarrollo de esta tecnología con el argumento de que la falta de regulación podría agravar las amenazas y riesgos asociados. De igual manera, en distintas ocasiones han señalado que informar sobre los comportamientos no deseados de sus modelos forma parte de su compromiso para construir un entorno seguro, equitativo y beneficioso para toda la humanidad.
¿Riesgos reales o estrategia de control?
No obstante, algunos analistas aseguran que esta postura forma parte de una estrategia basada en el miedo que pretende exagerar el potencial de la tecnología para desviar la atención de los efectos negativos que la IA ya provoca, mantener el control sobre el marco regulatorio y aumentar el interés de los inversionistas.
El consultor Aaron Mak sostiene que "las narrativas sobre riesgos existenciales atraen la atención de figuras públicas, capital filantrópico e interés regulatorio. Presentar la IA como una amenaza para la especie humana otorga urgencia y legitimidad a los institutos de investigación, los centros de estudios y las empresas tecnológicas que se posicionan como guardianes frente al apocalipsis".
En su opinión, este tipo de discursos coloca a los laboratorios de IA como los únicos capaces de enfrentar esas amenazas, lo que les permite frenar posibles regulaciones más estrictas y evitar determinadas responsabilidades por los daños ocasionados bajo el argumento de perseguir un bien mayor. "La narrativa existencial no es una predicción, sino una estrategia. Pospone la responsabilidad ética y vuelve a concentrar el poder en manos de quienes originaron el problema", reitera Mak.
El académico Nicolas Kayser-Bril destaca que esta supuesta estrategia es llamativamente distinta a la adoptada por otros sectores de innovación tecnológica para evitar regulaciones más estrictas.
El especialista explica que, por ejemplo, la industria tabacalera, la energía nuclear e incluso las empresas de redes sociales han intentado frenar o suavizar marcos regulatorios que podrían afectar sus negocios mediante argumentos científicos que minimizan los riesgos de sus productos o, bien, a través de narrativas que sostienen que no existen evidencias sólidas sobre los posibles daños asociados con sus operaciones y que, por ello, es necesario ampliar la investigación.
Una gran brecha entre los dichos y los hechos
En cambio, Kayser-Bril afirma que "los ejecutivos de las empresas de IA siguen una estrategia diferente y radicalmente nueva: en lugar de exigir más pruebas sobre los daños actuales, centran su atención en las amenazas potenciales", con un doble enfoque que, a su juicio, resulta innegable.
El especialista en periodismo de datos recuerda que en 2023 se discutían normativas como la Ley de IA de la Unión Europea, las cuales representaban un riesgo para los intereses económicos de estas compañías. En marzo de ese mismo año, algunos ejecutivos, entre ellos Elon Musk, solicitaron una moratoria para el desarrollo de nuevos modelos de lenguaje con el argumento de evitar que la humanidad perdiera el control de su civilización. Sin embargo, "ninguno de ellos acató esa propuesta. Quizá el objetivo de la moratoria era otro", sugiere. Cabe recordar que, en julio de ese mismo año, Musk lanzó su propia empresa de inteligencia artificial, xAI.
Un discurso recurrente entre las grandes empresas de IA gira en torno a las promesas de los beneficios que sus modelos podrían aportar a la humanidad. El acceso a la información, la optimización de la productividad, la mejora de los métodos educativos y la generación de conocimientos científicos inéditos forman parte de los argumentos que estas compañías suelen utilizar en cada uno de sus nuevos lanzamientos.
En contraste, y de forma paralela, muchos de sus informes de seguridad describen escenarios apocalípticos en los que la inteligencia artificial, ante la ausencia de regulación y el acelerado avance de sus capacidades, podría llegar a tomar el control del mundo.
Shannon Vallor, profesora de ética de datos e inteligencia artificial en la Universidad de Edimburgo, sostiene que estos dos discursos se presentan de manera tan extrema que "lleva a la gente a creer que lo único que pueden hacer es sentarse a esperar para averiguar si estas tecnologías resultan ser demonios que acaban con la civilización o mesías que nos regalan una utopía".
La especialista enfatiza que no debe perderse de vista que los modelos de IA son desarrollados por empresas con fines de lucro que, según plantea, buscarán proteger sus intereses, incluso obstaculizando en la práctica una regulación efectiva o acelerando el desarrollo de determinadas innovaciones. "Con cualquier otra tecnología —salvo con esta; incluso con la energía nuclear o las armas biológicas—, en ningún otro caso hemos permitido que estas narrativas nos hagan creer que estamos ante fuerzas que escapan al control humano. Nada en ellas es ingobernable. A menos que decidamos no gobernarlas", afirmó Vallor en declaraciones retomadas por la BBC.
En términos financieros, comprobar que esta aparente estrategia del miedo está generando beneficios para los laboratorios de IA resulta complicado. Las inversiones y la valoración de las empresas dependen de múltiples factores. Además, pocas compañías especializadas en esta tecnología cotizan actualmente en bolsa.
Sin embargo, no debe perderse de vista que diversas firmas del sector, como OpenAI y Anthropic, se encuentran en proceso de debutar en el mercado bursátil, lo que les permitirá captar nuevos recursos con la venta de acciones.
En este contexto, Mak concluye que "los verdaderos riesgos que plantean los sistemas de IA actuales no son existenciales en el sentido de la ciencia ficción, sino sistémicos en el sentido del mundo real. No surgen de máquinas malévolas, sino de las decisiones institucionales, económicas y epistemológicas que tomamos sobre cómo y dónde implementar la IA".