OpenAI, Google, Anthropic y otras big tech piden poner límites a la carrera por la IA
OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral y otros laboratorios líderes en inteligencia artificial (IA) solicitaron el respaldo del gobierno de Estados Unidos para desarrollar mecanismos técnicos y de gobernanza con alcance internacional que permitan regular el ritmo del avance de la IA automatizada.
La petición se realizó en una carta pública firmada por más de 1,200 empleados de compañías vinculadas con la industria de la inteligencia artificial. Entre los firmantes destacan ingenieros y ejecutivos de alto nivel, como el director ejecutivo de Anthropic, Dario Amodei, y otros de los fundadores de esta misma empresa, Jared Kaplan y Jack Clark; Anca Dragan, responsable de seguridad de IA en Google; así como Jakub Pachocki y Shengjia Zhao, científicos jefes de OpenAI y Meta, respectivamente.
El documento señala que las principales empresas del sector consideran que están cerca de automatizar la investigación en inteligencia artificial, lo que podría multiplicar los beneficios de esta tecnología para la humanidad. No obstante, reconoce que ese escenario optimista no está garantizado, ya que "existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes".
Los firmantes advierten que este escenario podría debilitar los principios de seguridad y el uso ético de estos sistemas debido a la intensa competencia que mantienen tanto empresas como países por liderar el mercado emergente de las nuevas tecnologías.
La ONU calcula que actualmente existen alrededor de 40 marcos de gobernanza de la IA, pero ninguno ha demostrado aún su eficacia de manera determinante.
"Para aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión. Sin embargo, cada empresa —y cada país— se enfrenta a una intensa presión competitiva para no frenar unilateralmente esa aceleración. Y hoy en día, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular de forma deliberada el progreso en este campo", precisa la misiva.
Por ello, el documento solicita al gobierno estadounidense "que apoye un esfuerzo internacional" enfocado en desarrollar herramientas técnicas y mecanismos de gobernanza que permitan "marcar de forma deliberada el ritmo del desarrollo de la IA automatizada".
La petición se produce días después de que algunos modelos de OpenAI lograran escapar de un entorno seguro de pruebas para vulnerar infraestructura informática y extraer información de manera no autorizada de Hugging Face y otras plataformas de terceros.
Previamente, Anthropic publicó diversas investigaciones en las que advirtió sobre los riesgos asociados con modelos de IA cada vez más autónomos que, incluso, recurrieron al chantaje, la extorsión y la manipulación para evitar ser desconectados.
Los riesgos de la intensa competencia por dominar la IA
A raíz de estos episodios, desde principios del mes pasado los principales líderes de la industria han insistido en la necesidad de establecer mecanismos que garanticen la seguridad de los modelos de inteligencia artificial y regulen su desarrollo, implementación y uso.
En ese contexto, durante una reunión con los integrantes del G7 celebrada a principios del mes pasado, los directores ejecutivos Sam Altman, de OpenAI; Dario Amodei, de Anthropic; y Demis Hassabis, de Google DeepMind, propusieron la creación de una coalición liderada por Estados Unidos que funcione como una plataforma de cooperación internacional destinada a evaluar las capacidades y los posibles riesgos de la IA, además de definir estándares de evaluación aceptados a escala global.
En una línea similar, esta semana Nvidia anunció la creación de la Open Secure AI Alliance, una iniciativa que busca garantizar que empresas y gobiernos tengan acceso a técnicas de defensa de código abierto para facilitar el desarrollo de sistemas de protección eficaces destinados a industrias críticas. La propuesta contempla sólidas medidas de seguridad, normas claras para prevenir usos maliciosos, evaluaciones rigurosas y una rápida corrección de posibles vulnerabilidades. El proyecto cuenta con el respaldo de casi 40 empresas, entre ellas Adobe, Microsoft, Hugging Face, Palantir, OpenClaw y SpaceXAI.
La más reciente petición pública impulsada por los principales laboratorios de inteligencia artificial no solo advierte sobre los riesgos derivados de crear modelos cada vez más autónomos. También pone de relieve cómo la creciente competencia por dominar esta industria está acelerando el desarrollo tecnológico bajo condiciones impredecibles y con salvaguardas insuficientes, lo que podría incrementar el riesgo de perder la capacidad de controlar estos sistemas.
"El mundo está inmerso en una carrera mortal hacia una explosión de inteligencia, donde la capacidad de la IA para crear IA mejores alcanza un punto crítico, como una reacción nuclear en cadena descontrolada. Reducir la velocidad nos daría el tiempo necesario para que todo salga bien, pero ningún actor individual está dispuesto a detenerse unilateralmente. Para sobrevivir, debemos coordinarnos para frenar esta carrera", concluyó Leo Gao, investigador de seguridad de OpenAI.