¿Puede la inteligencia artificial realmente crear armas biológicas? Esto dicen los científicos
La preocupación por un apocalipsis provocado por la IA está alcanzando su punto álgido, desde Silicon Valley hasta Washington DC.
¿Cuál es una de las principales teorías sobre cómo una IA descontrolada acabaría con nosotros? Las armas biológicas.
A principios de este verano, los directores ejecutivos del sector de la IA pidieron nuevas leyes para controlar la fabricación de ADN sintético. El mes pasado, investigadores de la Universidad de Stanford y del Arc Institute demostraron que la IA puede diseñar nuevos genomas virales. La idea cobró fuerza la semana pasada después de que Anthropic publicara un informe en el que indicaba que se habían realizado esfuerzos para utilizar a Claude de formas que “podrían favorecer el desarrollo de armas biológicas”. "Los autores del informe citan el uso indebido con fines biológicos como ‘uno de los riesgos más graves de los modelos de IA de vanguardia’. Poco después, el director ejecutivo, Dario Amodei, instó al gobierno a ayudar a los laboratorios de IA a “controlar el avance de la frontera tecnológica”.
¿Es real la amenaza?
A pesar de la alarma en torno a una plaga mortal creada por la IA, muchos científicos afirman que el riesgo ocupa un lugar bastante bajo en la lista de preocupaciones mundiales.
David Bellamy, investigador científico del Institute of Foundation Models de Sunnyvale, California, no considera que la IA suponga una amenaza fundamentalmente nueva en lo que respecta a la creación de armas biológicas. La comunidad científica lleva décadas debatiéndose con la cuestión de si publicar investigaciones biológicas potencialmente peligrosas, lo que se conoce como el “dilema del doble uso”.
Según Bellamy, antes de la llegada de los grandes modelos de lenguaje, ya internet, las revistas científicas de acceso abierto y los servicios de traducción como Google Translate facilitaban el acceso de la gente a la información biológica, incluidos los protocolos de laboratorio.
“La IA es, en esencia, una herramienta que puede ayudar tanto a los actores benévolos, como a los malintencionados a examinar la información más rápidamente y a definir y localizar esos protocolos con mayor rapidez”, añade. “Pero esas capacidades no son realmente el cuello de botella en la producción de armas biológicas”.
El verdadero cuello de botella es el proceso de ensamblaje de un virus u otro agente biológico, así como las materias primas, el equipo y los conocimientos que se necesitarían para ello. Un agente malintencionado tendría que obtener los fragmentos genéticos necesarios y construir un genoma completo desde cero. Luego, verificar que el virus puede infectar a los seres humanos, provocar la enfermedad deseada y ser transmisible de persona a persona. Los asistentes de laboratorio robóticos pueden automatizar algunas tareas y acelerar los flujos de trabajo hasta cierto punto, pero una persona seguiría necesitando los conocimientos técnicos para llevar a cabo esos experimentos y los recursos para ponerlos en práctica.
Jason Kelly, director ejecutivo de la startup biotecnológica Ginkgo Bioworks, considera poco probable que una inteligencia artificial general pueda apropiarse de patógenos existentes y propagarlos, y mucho menos diseñar otros nuevos y ponerlos en circulación. Ginkgo Bioworks se especializa en la creación de laboratorios autónomos y recientemente llevó a cabo un proyecto con OpenAI en el que su modelo GPT-5 dirigió un laboratorio.
“La IA no pudo tomar el control del laboratorio”, señala, en parte porque los humanos que trabajaban en él podían simplemente negarse a proporcionar al bot las sustancias y el equipo que solicitaba para fabricar físicamente un arma biológica. Todos esos molestos humanos que actúan como controles significan que “habría que tener una cantidad mucho mayor de robots por todas partes”, explica, para que una Inteligencia Artificial General (IAG) pudiera desplegar máquinas que realizaran el trabajo virológico que se requiere.
La inmunóloga Derya Unutmaz indica igualmente que los humanos serían capaces de frustrar cualquier intento de la IAG de desarrollar una enfermedad mortal. Incluso si una superinteligencia malintencionada lograra de alguna manera desatar un supervirus, sostiene que los científicos podrían utilizar otros sistemas de IA para desarrollar rápidamente una vacuna.
Aun así, incluso algunas personas que no consideran que sea una amenaza real están preocupadas por la posibilidad de que actores malintencionados usen esta tecnología, así como por lo que podría suceder en el futuro.
“Hoy en día es imposible que una IA acceda a un laboratorio totalmente autónomo y cree un virus por sí misma, porque aún no existen laboratorios totalmente autónomos”, aclara Olivia Scharfman, investigadora en biotecnología del centro de estudios tecnológicos Institute for Progress. “Pero sí creo que una IA podría pagar a alguien para que lo hiciera por ella”.
Scharfman considera que el bioterrorismo asistido por IA es una amenaza inmediata y que hay algunos grupos que podrían ser lo suficientemente nihilistas como para llevarlo a cabo, incluidos los “sucesionistas transhumanistas de la IA”, personas que se adhieren a una ideología marginal y que esperan suplantar a los humanos con robots.
¿Y por qué usar un arma biológica?
Otros expertos no están tan preocupados por un arma biológica basada en la IA, ya que no creen que la guerra biológica tenga mucho sentido desde el punto de vista metodológico. “Los riesgos suelen malinterpretarse en cierta medida”, explica a WIRED el biólogo genético y profesor de biología computacional François Belloux, señalando que la gente tiende a “sobreestimar el valor de los patógenos como armas”.
Dejando a un lado todo el tema de la IA general (IAG), Belloux destaca que las armas biológicas simplemente no son una opción especialmente atractiva para los aspirantes a genocidas, sobre todo porque resulta difícil atacar a determinados grupos y dejar a otros a salvo, y la producción y distribución masivas de patógenos son logísticamente complicadas en comparación con, por ejemplo, lanzar una bomba. Belloux expresa que “si quieres matar gente, hay formas mucho, mucho, mucho mejores de hacerlo que intentar crear algún virus o bacteria y luego liberarlo”, tanto si se trata de la mente artificial más sofisticada jamás creada como si eres simplemente un ser humano corriente.
Dado que la IA pone de relieve la amenaza de las armas biológicas, Scharfman manifiesta que este es el momento adecuado para impulsar mejores medidas de protección contra todas las amenazas biológicas, incluidos los patógenos existentes como el H1N1. Esto podría incluir medidas de alto nivel, como la aprobación de leyes para reforzar los protocolos de seguridad en torno a la tecnología de síntesis de ADN, pero también aboga por cambios para mitigar el riesgo que plantean todos los virus, como la mejora de los sistemas de purificación del aire en los edificios.
Si la IA aumenta de forma demostrable el riesgo de desarrollo de armas biológicas es una pregunta difícil de responder, contesta Steph Guerra, directora de IA y biología en Rand Corporation, un centro de estudios de políticas. “Se ha demostrado que la IA es muy buena integrando información y motivando a las personas a hacer cosas buenas y malas”, añade.
Los medios de protección
Aunque el riesgo sea bajo, argumenta Guerra, la sociedad dispone de medios para protegerse frente a un posible uso indebido. Una de las medidas es que los gobiernos aprueben leyes que obliguen a las empresas que comercializan ADN y ARN sintéticos a verificar la identidad de los clientes y el contenido de los pedidos, con el fin de evitar el uso indebido de material genético. Muchas empresas ya utilizan software para analizar los pedidos en busca de las denominadas “secuencias preocupantes”, pero esta práctica no es generalizada ni obligatoria.
Sin embargo, antes de que un actor malintencionado pueda llegar a ese punto, casi todo el mundo coincide en que los modelos deberían contar con las medidas de seguridad adecuadas para que no proporcionen a las personas información peligrosa y que pueda utilizarse para cometer actos ilícitos.
Guerra opina que el riesgo de una amenaza biológica desarrollada por la IA también puede mitigarse reforzando los sistemas de vigilancia globales para detectar brotes de nuevas enfermedades y patógenos circulantes, y comunicárselos a los investigadores lo antes posible. Señala que los protocolos de intercambio de datos entre empresas de IA, proveedores de síntesis génica y el gobierno también podrían ayudar a prevenir el uso indebido.
“Con prácticamente cualquier medida de bioseguridad, siempre habrá formas de eludirla”, agrega. “Por eso necesitamos enfoques por capas que pongan obstáculos a lo largo de todo el proceso, desde la concepción de la idea hasta el propósito de un malintencionado, pasando por la liberación de un arma biológica”.
Unutmaz comenta que hay una preocupación aún más acuciante: que todo el debate apocalíptico sobre la IA esté desviando la atención de cómo los sistemas de vanguardia pueden ayudar a los seres humanos en el desarrollo de vacunas y otros avances médicos.
“Realmente tenemos que centrarnos en el aspecto positivo de todo esto”, concluye.
Artículo originalmente publicado en WIRED.com. Adaptado por Mauricio Serfatty Godoy.