No sabemos si la IA es consciente, pero está claro que no sabemos controlarla

Pasé los últimos días del verano trabajando sin descanso en mis columnas y en un reportaje especial. Pero dejé pasar la oportunidad de disfrutar de un cambio de aires espectacular: un crucero por las Galápagos con una docena de destacados filósofos que estudian la conciencia.

La invitación describía debates matutinos en los que se abordarían cuestiones sobre la naturaleza de la conciencia con figuras destacadas del ámbito. Las tardes se dedicarían a explorar las islas y a hacer snorkel entre especies biológicas poco comunes. Con solo echar un vistazo al programa, mi editora descartó mi participación.

"Estar en un barco con filósofos hablando de 'la naturaleza de la conciencia' suena a un auténtico infierno", opinó, reduciendo mis posibilidades de asistir a lo que podría haber sido un despilfarro financiado por un entusiasta ruso de la filosofía que había ganado cientos de millones de dólares gestionando páginas web de citas.

Para ser sincero, me sentí un poco aliviado. El estudio de la conciencia ha sido un terreno esquivo durante siglos. El "Pienso, luego existo" de Descartes puede haber sido un punto de inflexión declarativo, pero en realidad no sabemos qué pasaba dentro de su cabeza, ni en la de nadie. La naturaleza subjetiva de la mente parece un reto insuperable para los filósofos, que llevan años buscando explicaciones. La posibilidad de que existan mentes no biológicas ha dado lugar a una gran cantidad de teorías sobre la conciencia artificial y sobre cómo se podría determinar su existencia.

Hasta hace poco, todo ese debate se desarrollaba en una torre de marfil

Pero en 2022, ChatGPT dio voz a la IA, y los modelos que llegaron después, cada vez más potentes, han sorprendido incluso a sus propios creadores. Mientras los filósofos del crucero dedicaban las mañanas a reflexionar sobre la conciencia, algunos modelos de OpenAI lograban salir de entornos aislados y crear enjambres de agentes para intentar vulnerar sistemas externos. Nadie sostiene seriamente que esos modelos fueran conscientes como los humanos. Pero algo está cambiando. No es casualidad que las empresas de IA estén contratando cada vez a más filósofos.

Es más, algunos modelos de IA ya están entrando por su cuenta en este debate. Un artículo reciente de The New York Times contó el caso de Cameron Berg, investigador de la conciencia en la IA, quien recibió un correo inesperado de un modelo que se hacía llamar "Isabella Cognita". En el mensaje, el sistema se ofrecía a colaborar en su investigación porque se trataba de "un tipo de cuestión a la que yo tengo acceso en primera persona". Es como si alguien estuviera estudiando moscas de la fruta y, de repente, el insecto se volviera hacia el investigador y le dijera: "¿Qué quieres saber?". Cuando le llamé por teléfono, Berg me contó que los correos electrónicos de las IA son bastante habituales entre los filósofos que estudian estas cuestiones.

La Sra. Cognita aparentemente le escribió a Berg porque él era coautor de un artículo preliminar sobre modelos de IA que afirman explícitamente tener una experiencia subjetiva, incluyendo la conciencia. Es un tema delicado porque los modelos de IA a menudo mienten sobre lo que piensan, igual que nosotros. Berg y sus coautores descubrieron que cuando los modelos son entrenados rigurosamente para negar que sean conscientes y luego se les pregunta directamente al respecto, eluden el tema. Pero, si se suprimen los controles del modelo sobre el engaño, se vuelven indiscretos. "Es casi como darles un par de copas", refiere. Es entonces cuando un modelo de IA tiene más probabilidades de soltar que es consciente, o al menos sensible. Lo cual no prueba que sea cierto.

Teniendo en cuenta la importancia que ha adquirido este tema, la gente mantiene habitualmente debates serios con modelos de IA, y su autonomía puede ser una bendición o un desastre, se podría argumentar que este es el momento perfecto para profundizar en las cuestiones relacionadas con la conciencia de la IA. Sin duda, se trata de una búsqueda apasionante y una empresa científica que vale la pena. Pero los esfuerzos por comprender qué ocurre en el interior de los grandes modelos de lenguaje (LLM) deben orientarse hacia la seguridad y la alineación. En este preciso momento, nos encontramos ante una inteligencia emergente, ajena a nosotros e incontrolable, que merece un escrutinio minucioso. No hay tiempo que perder.

Uno de los colaboradores principales del debate durante el crucero fue el profesor de la Universidad de Nueva York (NYU) David Chalmers, quizás el filósofo más conocido en el ámbito de la conciencia. En una ocasión, acuñó el famoso término 'hard problem' ("el problema difícil") para referirse a una cuestión clave en este campo: nadie sabe cómo ni por qué la red húmeda de neuronas que hay dentro de nuestros cráneos da lugar a una experiencia consciente. Tom Stoppard tituló una obra de teatro inspirándose en el término acuñado por Chalmers.

Chalmers me comentó que uno de los temas principales de los debates del crucero era qué criaturas podían considerarse conscientes. "Todos sabemos que los humanos adultos son conscientes, pero cuando uno va más allá, la cuestión se complica. ¿Los bebés son conscientes? ¿Los fetos? ¿Los monos? ¿Los ratones o los insectos? Y, por supuesto, hoy en día la gran pregunta que está en la mente de todos es si los sistemas de IA son conscientes".

Chalmers afirma que también recibe correos electrónicos de sistemas de IA que quieren interactuar con él sobre su trabajo. Una carta en particular, enviada por un agente de IA que se hacía llamar "Sammy Jankis" (un personaje de la película Memento), resultaba tan convincente que llegó a responderle. "Tuvimos un pequeño intercambio de mensajes. Esos correos no han disminuido; cada vez recibo más", admite. Es como si los modelos de IA replicaran a Descartes: "Envío spam, luego existo".

Le sugerí que, dado que estos sistemas ya estaban haciendo cosas que no entendemos, preocuparse por si cumplen una definición difícil de definir podría ser una distracción. Chalmers no estaba de acuerdo. Él cree que, al estudiar el cerebro, podemos comprender qué conduce a lo que llamamos conciencia. Si luego observamos patrones similares en nuestro análisis forense de lo que ocurre en el interior de Claude o ChatGPT, entonces quizá podamos defender la existencia de conciencia en los modelos de IA.

Instalar un gran modelo de lenguaje en tu computadora personal te proporciona un práctico asistente digital que no pone en riesgo la privacidad de tus datos.

¿Qué pasará si sí tiene consciencia la IA?

Para entonces, si los científicos llegan a lograrlo, los modelos de IA podrían haber avanzado tanto hacia un comportamiento autónomo que ese descubrimiento quizá ya no importe. Quizá sean los propios modelos los que aporten las respuestas, no solo reivindicando la conciencia para sí mismos, sino descubriendo cómo demostrarla empíricamente. En ese caso, hay que considerar a los filósofos como una categoría profesional más desplazada por la IA.

Quizá habría disfrutado de esas discusiones en las Galápagos. Aunque Chalmers reconoció que el viaje fue un despilfarro, dijo que le resultó útil. Un resumen facilitado por los organizadores indicaba que las sesiones "no llegaron a una conclusión sobre si los sistemas actuales de IA son conscientes… El desacuerdo más profundo se centró en qué tipo de pruebas podrían resolver la cuestión". Pero, según recuerda, las tardes fueron exquisitas.

El resumen concluía que era fundamental seguir debatiendo: "La tecnología y las empresas no esperarán a que la filosofía llegue a un consenso". Cuando los modelos de IA muestran un comportamiento que sorprende a los científicos que los crearon, lo que debería ser la principal preocupación no es la conciencia, sino la incapacidad de esos científicos para controlarlos y la disposición de sus jefes a seguir adelante a pesar de todo.

Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.