Lanzar, fallar y borrar: El método de Silicon Valley para probar IA es cada vez más peligroso
En el transcurso de unas pocas semanas de este verano, dos de las big tech de Silicon Valley y entre las más poderosas del mundo lanzaron funciones de IA, solo para retirarlas rápidamente cuando el público demostró lo fácil que era hacer un uso indebido de ellas.
Retrocediendo
La herramienta Muse Image de Meta permitía a cualquiera generar imágenes generadas por IA a partir de cualquier cuenta pública de Instagram, a menos que se optara por no participar. Solo duró tres días.
Google añadió una herramienta de generación de imágenes dentro de Google Earth (una de las fuentes de evidencia visual más utilizadas del mundo) y la retiró después de que periodistas e investigadores demostraran lo fácil que resultaba fabricar una instalación nuclear en Irán o una crisis de refugiados en una frontera.
“Esta noche he escrito solo una frase en Google Earth y he situado a unos refugiados cerca de la frontera con México”, escribió el investigador independiente Henk Van Es en una entrada de blog del 30 de julio en la que detallaba el potencial de esta función para causar daño. “Después coloqué una central nuclear en Irán. Luego simulé un accidente mortal en una calle de Ámsterdam. En los tres casos, las imágenes por satélite eran las propias de Google. ¿Qué demonios está haciendo Google?”.
Lanzar, fallar, aprender, iterar
Así es, en líneas generales, como funciona Silicon Valley: lanzar, fallar, aprender, iterar. Fallar rápido. Muchos errores no se pueden prever ni resolver en una sala de reuniones, así que las empresas lanzan el producto, escuchan y lo arreglan.
Pero “fracasar rápido” funciona cuando el fracaso es barato y reversible, como una interfaz con fallos o un producto que necesita un cambio de rumbo.
El modo de fallo de la IA generativa va mucho más allá de una simple molestia. Significa que unas imágenes de satélite falsas de una terminal petrolera en llamas, capturadas y recortadas, circulan durante una guerra entre millones de personas antes de ser desmentidas (momento en el que la gente empieza a mostrarse escéptica respecto a las imágenes de satélite reales que circulan junto a ellas).
Significa que las imágenes generadas por IA a partir de tu cuenta de Instagram siguen existiendo incluso después de que te hayas dado de baja, porque la opción de exclusión de Meta solo se aplica a las futuras generaciones de imágenes generadas por IA, no a las que ya se hayan creado.
El público asume las desventajas, mientras que la empresa se queda con las lecciones aprendidas.
La función de IA de Google Earth se lanzó con medidas de seguridad. Las imágenes llevan una marca de agua que indica que han sido generadas por IA y no eran visibles para otros usuarios en la experiencia principal de Google Earth. Había límites en cuanto a lo que los usuarios podían solicitar. Pero todas estas limitaciones parten de la base de que el contenido permanecería en Google Earth, y todas ellas se eluden fácilmente con una simple captura de pantalla.
Estas imágenes generadas por IA incluyen una marca de agua digital, según escribió Google en una publicación en X, pero los usuarios tendrían que pasarlas por Google Gemini o por la función “Lens” de la Búsqueda para verificar que han sido generadas por IA. Esperar que los usuarios habituales de las redes sociales, desde mi abuela de 92 años hasta un estudiante universitario, verifiquen cada imagen de satélite con la que se topan parece un poco exagerado, en lugar de hacer que sea más difícil falsificar imágenes de satélite.
Cansados del exceso de IA
Muchos productos y funciones de IA han fracasado en los últimos años, pero estos dos destacan porque el daño que podían causar no era difícil de prever. En ambos casos, la gente común señaló el potencial de causar un gran daño a las pocas horas de su lanzamiento.
Esto parece formar parte de una crisis de identidad más amplia en plena expansión de la IA, en la que, en la carrera por adelantarse, muchas plataformas han olvidado quiénes son. Google Earth es un registro del mundo físico: todo su valor se basa en la precisión y la confianza. Ya cuenta con funciones de IA (no IA generativa) increíblemente útiles que convierten su gran cantidad de datos en información para orientar la preparación ante desastres y las decisiones de salud pública.
Instagram solía ser un lugar donde la gente podía compartir su vida con amigos y familiares; sigue siendo una red social, pero también se está convirtiendo cada vez más en una aplicación de entretenimiento donde las personas monetizan su marca, sus vidas y su imagen. En cualquier plataforma, pero especialmente en esta, una función que permita a cualquiera alterar tu imagen debería ser opcional.
El sector puede argumentar que su sistema funcionó según lo previsto; escucharon y retiraron las funciones, y han aprendido la lección.
Pero la indignación pública no es un sistema de seguridad, sobre todo cuando las consecuencias perduran más allá de la propia función. El lema “fallar rápido” se creó para una época en la que los fallos se limitaban al ámbito del software, y esa época ya ha terminado.
Artículo originalmente publicado en WIRED. Adaptado por Mauricio Serfatty Godoy.