La investigadora que desafió a Google alerta: el discurso de la IA apocalíptica es una cortina de humo

En WIRED hemos informado esta semana de al menos dos incidentes en el sector de la IA. El primero es la polémica en torno a un problema matemático de un millón de dólares y a si OpenAI se inspiró de forma encubierta en el trabajo de otros investigadores para resolverlo. El segundo es la renuncia pública de un investigador de Anthropic, ex empleado de OpenAI, quien alegó preocupación por cómo ambas empresas gestionan la seguridad de la IA. Otro miembro del personal técnico de Anthropic respondió que la gente de la empresa "¡realmente cree que la IA podría acabar con toda la humanidad!" (Fíjate en los signos de exclamación…) Y remató: "Personalmente, creo que hay más de un 10% de probabilidades de que eso ocurra en la próxima década".

En internet se desató un debate sobre si estos temores son legítimos, totalmente exagerados, parte de una estrategia de control regulatorio o una forma de autoelogio por parte de los laboratorios de IA que desarrollan la tecnología. Quizá se trata de una combinación de todo eso.

Timnit Gebru, una destacada investigadora de tecnología e inteligencia artificial, se ha mostrado especialmente vehemente en sus publicaciones en X y Bluesky sobre la superposición de ideas e ideologías que, según ella, nos han llevado a esta situación tan peculiar. En el pasado, Gebru ya era conocida principalmente por su muy publicitada salida de Google. Contratada en 2018 para evaluar los sesgos en las herramientas de IA de la compañía, que avanzaban a pasos agigantados, ella y sus compañeros investigadores presentaron un artículo sobre los peligros potenciales de los modelos de lenguaje probabilísticos a gran escala. Google lo rechazó. Gebru no permaneció mucho tiempo en la empresa. Ha escrito un libro sobre sus experiencias, titulado Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist (algo así como "El gran desaprendizaje: el auge de la IA y la radicalización de una idealista tecnológica"), que se espera salga a la venta a principios del próximo año.

Gebru tiene muchas reflexiones sobre los acontecimientos relacionados con la IA de la semana pasada. Si bien su trabajo se centra fundamentalmente en la seguridad de la IA, rechaza expresiones como "seguridad y alineación" y cree que quienes advierten sobre nuestra inminente catástrofe intentan desviar la atención de los daños reales que la industria tecnológica podría perpetuar.

WIRED: ¿Qué crees que revela toda la atención que recibe la "batalla matemática" sobre el estado actual de la IA?

TIMNIT GEBRU: Bueno, primero preguntaría: ¿por qué las tecnológicas invierten tanto en resolver problemas matemáticos? ¿Por qué eligen ciertas disciplinas? De alguna manera, estas materias, como la programación, el ajedrez y las matemáticas, se han elevado a un nivel que parece mandar el mensaje: “Ok, has llegado a esta meta y, por lo tanto, has descifrado la inteligencia”. Es para que puedan decir: “Lo hemos resuelto, lo encontramos”.

La historia que OpenAI quiere que te lleves es que esta IA ha hecho algo increíble y es superinteligente. Por eso eligieron las matemáticas y esa pregunta abierta con un premio de un millón de dólares. Pero si hubiera pasado por todo el proceso mediante el cual la comunidad matemática evalúa la importancia y la novedad de las afirmaciones y quiénes contribuyeron a ellas, y si todos hubiéramos esperado a que se calmaran las aguas, habríamos comprendido mejor si OpenAI estaba presentando este avance con precisión.

Existe algo llamado la Declaración de Leiden que me parece muy buena, la cual advierte sobre las consecuencias de que las corporaciones utilicen las matemáticas de esta manera. Los responsables políticos empiezan a basarse en comunicados de prensa y medios de comunicación populares, cuando deberían hablar directamente con los matemáticos. El tiempo que transcurre ahora entre que las empresas anuncien un avance en IA y que Bernie Sanders proponga un proyecto de ley es realmente corto, y eso no es bueno.

Ahora mismo reina una competencia feroz de cara a las salidas a bolsa de las empresas de IA. Normalmente, se espera que los investigadores colaboren. Cuando trabajaba en Google, colaborábamos con investigadores de Microsoft y Amazon. Es algo habitual. Ahora, los investigadores están obsesionados con los problemas que creen estar resolviendo debido a sus próximas salidas a bolsa.

El trabajo matemático previo de Diego Córdoba y Luis Martínez Zoroa fue crucial para la resolución de las ecuaciones de Navier-Stokes, uno de los siete Problemas del Milenio. Ahora tienen un lugar en el paper.

¿Cómo interpretas la renuncia de ese ingeniero de Anthropic que afirma que las empresas están actuando de forma imprudente y jugando con nuestras vidas? Por un lado, pareces estar de acuerdo con que las compañías están actuando de forma imprudente; por otro, has dejado claro que consideras que el debate sobre si “la IA provocará el fin de la civilización” carece de sentido.

A lo largo de toda mi carrera, he intentado decir lo mismo desde diferentes ángulos. Por esta razón escribimos nuestro artículo sobre el “loro estocástico” en 2021. OpenAI aseguró que GPT-2 era demasiado potente como para lanzarlo al mercado. Se le había dado mucha atención. Y nosotros dijimos “se están haciendo las preguntas equivocadas”.

En mi libro escribo: "¿Puede un puente decidir derrumbarse?". Lo digo con motivo de todo ese rollo de "¡Oh, no, nuestros modelos se descontrolaron!". Verás, cuando un puente se derrumba, no analizas si el puente era un ser ético o consciente, ni por qué decidió derrumbarse. No, lo que haces es preguntarte: ¿quién construyó este puente tan endeble? Hay permisos que hay que obtener. Se supone que hay pruebas. Cuando preguntas si el puente se decidió derrumbarse por sí solo, has perdido el hilo.

Mientras tanto, lo que es realmente existencial es que la IA impulsa armas autónomas, máquinas de matar, que de hecho se están utilizando en la guerra. La catástrofe climática es algo real que podría verse agravada por lo que están construyendo estas empresas tecnológicas. Los jefes están utilizando la IA como excusa para deshacerse de trabajadores enojados. Esta narrativa del “dios-máquina” tiene, en mi opinión, el objetivo de distraernos de todo esto. El sector se ha convertido en una mezcla de sectas, una mezcla de personas que son verdaderos creyentes, igual que un predicador que dice que se acerca el fin de los tiempos. La singularidad lleva décadas anunciándose.

Explícame, paso a paso, cómo podría producirse la “extinción por IA”, si fuera real. Estoy pensando en esta publicación en la que alguien decía: “¿Acaso una GPU enfadada se presentará en mi casa o algo así?”

No puedo imaginarlo del todo, pero muchos de esos escenarios parecen consistir en algo así como que le pides a la máquina que optimice alguna otra tarea, y luego la máquina decide que la forma de lograrlo es matando a todo el mundo. ¿Acaso la IA te hipnotiza para que no la desconectes? ¡No lo sé! Otros dicen que la IA puede infectar tus máquinas. Sí, y ya tenemos malware, así que…

¿Y qué hay de las inundaciones y los incendios? ¿Y de una interrupción grave en la cadena de suministro alimentaria mundial? Nos acechan amenazas reales, como que la gente sea capaz de crear y utilizar armas químicas. [Nota: Poco después de nuestra conversación, Anthropic reveló que había bloqueado varios intentos potencialmente maliciosos por parte de científicos de fabricar armas biológicas].

Con todo, lo cierto es que cuando eres tan privilegiado que no puedes imaginar que otras cosas puedan hacerte daño, entonces puedes concentrarte en los peligros de la IA. Por ejemplo, si no te preocupa la brutalidad policial, ni las inundaciones, ni la guerra, cosas que realmente pueden matarte, entonces puedes obsesionarte con el “dios-máquina”.

¿Por qué dedicamos tanto tiempo a hablar de la inteligencia artificial, un tema del que se viene hablando desde los años 40 y 50? A veces juego a leer citas sobre inteligencia artificial que he recopilado en mi investigación y pregunto: "¿En qué década se dijo esto?". A veces aciertan, pero muchas veces no, porque todo suena igual.

Artículo originalmente publicado en WIRED.com. Adaptado por Jorge Garay.