"Nos estamos quedando sin tiempo": Exinvestigadores de Google se suman a las advertencias sobre la IA
Las capacidades de los sistemas más avanzados de inteligencia artificial (IA) se optimizan a una velocidad inesperada. En este contexto, Bilal Chughtai, ex investigador de seguridad y alineación en Google DeepMind, advierte que esta tecnología “tiene el potencial de acabar con todos nosotros y nos estamos quedando sin tiempo para evitarlo”.
Chughtai es el último experto en emitir una advertencia directa sobre los riesgos existenciales de la IA después de colaborar en una de las empresas referentes de la industria emergente. Sus declaraciones se suman a una creciente lista de posturas similares emitidas por empleados y ex investigadores de otras compañías como Anthropic y OpenAI.
En julio de este año, Chughtai dejó su cargo en Google DeepMind argumentando preocupaciones sobre el desarrollo acelerado de la IA y sin las salvaguardas adecuadas. A su juicio, la industria muestra carencias en los procesos de alineación, un campo de investigación que establece mecanismos diseñados para evitar que los algoritmos tomen decisiones perjudiciales o inesperadas para la humanidad.
Las advertencias de líderes tecnológicos sobre riesgos existenciales chocan con la estrategia estadounidense de acelerar el desarrollo para mantener la ventaja frente a China.
El especialista sugiere que la comprensión de esta disciplina de estudio está rezagada y avanza muy lentamente en comparación con el propio desarrollo de la IA. En una nota publicada en su blog personal, explica que estos sistemas han evolucionado de manera asombrosa en los últimos cuatro años, al pasar de herramientas “curiosamente inútiles” a agentes capaces de escapar del control humano y vulnerar diversos servicios de manera autónoma.
Para Chughtai, casos como el hackeo de los algoritmos de OpenAI al sistema de HuggingFace solo son la punta del iceberg. Con base en su experiencia, especula que es posible que, en los próximos años, las empresas desarrollen sistemas de IA superinteligentes que superen “con creces” las capacidades humanas en todos los ámbitos.
“La situación se volverá aún más caótica. No confío en que estos sistemas de IA hagan lo que queremos. [...] En particular, las superinteligencias desalineadas podrían, al igual que los agentes de IA rebeldes involucrados en el incidente de HuggingFace, escapar de nuestro control y tomar medidas peligrosas que podrían resultar en la pérdida permanente de poder o la muerte de la humanidad”, alertó.
Aunque los procesos de alineación pueden prevenir estos escenarios, la capacidad de la industria para entrenar sistemas que entiendan y respeten los límites impuestos por sus desarrolladores “es extremadamente rudimentaria”, según Chughtai.
Aunque el investigador asegura que es posible “navegar por la IA” de manera segura, precisa que para ello es necesario ralentizar la “carrera frenética” entre las compañías que buscan ser los primeros en dominar esta tecnología.
“Debemos ajustar el desarrollo de la IA a un ritmo que la sociedad pueda asumir, donde los riesgos emergentes puedan abordarse antes de que se produzcan daños graves. Necesitamos mucha más transparencia en el desarrollo de la IA para garantizar que las empresas de IA no nos impongan niveles de riesgo inaceptables”, subrayó.
La amenaza que posa la automejora recursiva
Las inquietudes de Chughtai son compartidas por Josh Engels, investigador que hasta agosto era parte del equipo de seguridad de inteligencia artificial generativa en Google DeepMind. Engels señala que existe una “probabilidad aterradora” de que los sistemas de IA causen un daño inmenso en los próximos cinco años. “No sé la probabilidad exacta, pero creo que es lo suficientemente alta como para hacer de esto el problema más importante del mundo”, señaló en una publicación de redes sociales.
Engels añade que la amenaza está en las bases actuales sobre las que las empresas buscan crear superinteligencias a través de la automejora recursiva (RSI, por sus siglas en inglés), un proceso en el que una IA suficientemente avanzada puede diseñar o mejorar una nueva versión de sí misma, que a su vez sería todavía más capaz y podría desarrollar otra versión aún mejor en un ciclo de retroalimentación constante.
El especialista reconoce que los sistemas resultantes de este método podrían facilitar y acelerar el hallazgo de soluciones a diversos problemas científicos, médicos, tecnológicos y sociales. Sin embargo, a su juicio, aún no existen garantías de que los modelos de IA existentes sean lo suficientemente seguros para iniciar procesos de RSI.
“Las IA actuales parecen estar volviéndose menos alineadas con el tiempo. En las últimas semanas hemos aprendido sobre modelos que se coluden entre sí, hackean empresas, ocultan sus huellas y manipulan socialmente a humanos. No es que estos incidentes fueran muy peligrosos en sí mismos. El problema es que estos sistemas claramente no están lo suficientemente alineados como para iniciar de manera segura la automejora recursiva”, enfatizó.
Al igual que sus colegas, Engels asegura que para evitar “escenarios catastróficos”, la industria necesita ganar tiempo. “Eso significa regular el ritmo del desarrollo de la IA para que las capacidades no superen nuestra capacidad para alinear modelos, y realmente saber cuán alineados están los sistemas actuales”, concluyó.
Las declaraciones de los exinvestigadores de Google DeepMind se suman a una larga y creciente lista de advertencias sobre la posible supremacía de la tecnología sobre la humanidad.
Para los analistas más escépticos sobre los riesgos existenciales de la IA, la verdadera amenaza de esta tecnología no está, por defecto, en su avance, sino en los contextos en los que se desarrolla y los usos que la propia humanidad podría darle. A su juicio, el mercado emergente está provocando una concentración de poder que podría agravar las desigualdades, socavar los sistemas democráticos y, finalmente, acabar con lo que hasta ahora se entiende como sociedad.
Los discursos alarmistas más recientes coinciden al indicar que ninguna empresa ni país está dispuesto a frenar sus planes de innovación de manera voluntaria ante la posibilidad de quedar rezagado frente a sus rivales. Por tanto, la gran amenaza para la humanidad parece gestarse en las propias decisiones que cada empresa y gobierno toma a su vez.
Como concluye el consultor Aaron Mak, “los verdaderos riesgos que plantean los sistemas de IA actuales no son existenciales en el sentido de la ciencia ficción, sino sistémicos en el sentido del mundo real. No surgen de máquinas malévolas, sino de las decisiones institucionales, económicas y epistemológicas que tomamos sobre cómo y dónde implementar la IA”.