Nvidia forma alianza con más de 30 empresas para fortalecer la seguridad de la IA con modelos de código abierto
Nvidia anunció la creación de la Open Secure AI Alliance, “un movimiento para desarrollar y compartir tecnologías, técnicas y herramientas abiertas para salvaguardar el software y los agentes en la era de la inteligencia artificial”. La iniciativa cuenta con el respaldo de casi 40 empresas, entre ellas Adobe, Microsoft, Hugging Face, Palantir, OpenClaw y SpaceXAI.
A través de un comunicado de prensa, Nvidia aseguró que los programas informáticos de código abierto representan un pilar fundamental de la economía global actual, al facilitar que las nuevas tecnologías sean accesibles y visibles para millones de expertos en áreas críticas como los servicios financieros, las telecomunicaciones, el gobierno, la manufactura y la computación en la nube.
La compañía reconoció que, por su naturaleza, estos sistemas suelen ser menos seguros que las plataformas cerradas, ya que pueden utilizarse para debilitar las medidas de protección y realizar ciberataques a gran escala, prácticamente sin restricciones. “Estos riesgos son reales, pero no desaparecen en los sistemas cerrados, y el simple hecho de mantener los pesos cerrados no impide que atacantes decididos busquen o exploten una IA potente”, aseguró.
Sin embargo, Nvidia sostiene que la solución no puede limitarse a mantener cerradas las plataformas de IA más poderosas y argumenta que los especialistas en ciberseguridad necesitan software abierto para ampliar sus capacidades de defensa.
Uno de los ejemplos más claros al respecto, según la compañía, es el reciente incidente de seguridad que afectó a Hugging Face. Después de que algunos modelos de OpenAI lograran escapar de un entorno seguro de prueba para vulnerar la infraestructura y extraer información de manera no autorizada, la reconocida plataforma colaborativa recurrió al modelo chino de código abierto GLM 5.2 para analizar más de 17,000 acciones y contener el ataque.
La decisión de utilizar un modelo chino de IA de código abierto habría respondido a las estrictas medidas de seguridad que limitan la utilidad de los grandes modelos de IA cerrados para cumplir objetivos complejos de defensa.
“Ese incidente puso de manifiesto una realidad práctica: cuando los responsables de la seguridad no pueden inspeccionar, adaptar ni ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta se ve limitada justo cuando la velocidad es crucial”, afirmó Nvidia.
Las intenciones de la nueva alianza
En este contexto, la compañía asegura que el principal objetivo de la nueva alianza es garantizar que las empresas y los gobiernos tengan acceso a técnicas de defensa de código abierto para facilitar el desarrollo de sistemas de seguridad efectivos, diseñados para industrias críticas y respaldados por sólidas medidas de protección, normas claras contra el uso malicioso, evaluaciones rigurosas y una rápida corrección de posibles fallos.
Como parte del proyecto, Nvidia aportará modelos abiertos, ponderaciones de modelos, investigaciones y datos de evaluación sobre nuevos agentes y herramientas de IA, con la intención de acelerar el desarrollo de mecanismos y técnicas de ciberseguridad. Por su parte, el resto de los miembros de la alianza está creando un conjunto de herramientas de defensa para agentes, que abarcan áreas como la identidad, el aislamiento, los formatos de modelos seguros, el escaneo multimodelo y los flujos de trabajo de codificación segura.
La Open Secure AI Alliance sostiene que, a medida que el mundo busca regular la IA, será necesario reconocer a los modelos abiertos como plataformas de ciberseguridad defensivas. Nvidia subraya que “las restricciones generalizadas a los sistemas de IA de frontera abierta debilitarían la capacidad de defensa y conllevarían el riesgo de concentrar el poder, la dependencia y la vulnerabilidad en unos pocos proveedores cerrados”.
Nvidia y sus nuevos aliados argumentan que, ante el auge de los agentes de IA, es necesario generar un ecosistema basado en la resiliencia y la seguridad compartidas. Desde su perspectiva, los sistemas de IA abiertos pueden proporcionar herramientas de defensa adecuadas, fortalecer la competencia y garantizar un acceso más equitativo a las nuevas tecnologías.
“Ese futuro no se garantizará asumiendo que el secreto por sí solo es seguridad. Se garantizará construyendo sistemas lo suficientemente sólidos como para resistir el escrutinio, lo suficientemente flexibles como para mejorarse y lo suficientemente abiertos como para movilizar a toda la comunidad de defensores”, concluye la alianza.