La IA agéntica llegó a México sin reglas ni garantías
Aldo Ricardo Rodríguez, CEO de Lawgic, una plataforma de educación sobre inteligencia artificial en el derecho y servicios de IA legal, estaba jugando con una app que gestiona agentes de IA cuando uno de ellos decidió mandar correos desde su inbox invitando a clientes a un seminario. Rodríguez nunca le dio esa instrucción, ni le compartió la lista de contactos, ni mucho menos le había dado acceso de mandar correos, pero el agente lo hizo. Cuando las personas comenzaron a aceptar la invitación, Rodríguez se dio cuenta de lo ocurrido y corrió a apagar el incendio. “Vi el correo y estaba muy bien escrito y dije, ‘órale’, es muy interesante cómo te sorprenden”.
La inteligencia artificial agéntica, el sistema de IA capaz de tomar decisiones autónomas, está cada vez más presente en nuestras vidas. Su presencia en nuestro país sigue siendo sutil (a veces inflada por el hype), pero innegable. Más que de una cafetería operada por robots, hablamos de procesos automatizados con agentes que dan como resultado algo que vemos, leemos y, quizás, hasta algo con lo que interactuamos. A medida que se borra la línea entre el agente y el humano, en México cada vez son más las personas que experimentan con esta tecnología, sin que exista un marco regulatorio que la rija ni un conocimiento claro sobre los riesgos e implicaciones de su uso.
A Rodríguez no le espantó la decisión autónoma que tomó su agente. Aunque le dio algo de vergüenza con sus clientes, lo cierto es que lo dejó asombrado. La capacidad del agente de tomar decisiones con base en un análisis propio de su entrenamiento y configuración confirma su apuesta por el potencial de la IA de automatizar y eficientar procesos. Su socio, por ejemplo, ya opera un despacho legal exclusivamente con agentes, presume Rodríguez. Pero para entender cómo llegamos aquí hay que ir un par de pasos atrás.
La llegada de los agentes de IA a México
La fiebre agéntica llegó a México a inicios de año cuando OpenClaw, un asistente de IA de código abierto, se viralizó. Este agente está diseñado para correr localmente en tu computadora y se conecta a grandes modelos de lenguaje como GPT y Claude para que puedas comunicarte con él a través de WhatsApp y otras apps de mensajería. OpenClaw bajó considerablemente la barrera técnica de la creación de agentes y le permitió a muchos desarrolladores vislumbrar cómo los “normies”, la población en general sin una formación técnica, podrían adoptarlos. ¿Pedirle a un asistente virtual por WhatsApp que te organice un viaje, te escriba correos, mande recordatorios, se meta a tu calendario y agende citas? ¿Por qué no? Frida Ruiz, la especialista en IA mejor conocida como Frida Ruh, brincó ante la oportunidad de negocio y decidió vender agentes.
“Me puse todo un fin de semana a programar tanto la página web, la pasarela de pago, algunas automatizaciones para que se pudiera generar en cuanto la gente lo comprara y salí al mercado”, explica Ruh en entrevista. OpenClaw simplificó la creación de agentes pero no del todo. Todavía se necesita saber manejar servidores y línea de comandos para configurarlo, desplegarlo y mantenerlo de la manera más segura. Por una mensualidad, Ruh entonces se encargaba de entregar a sus clientes el agente listo para echarlo a andar.
Le Big Tech stanno iniziando a fare i conti con un paradosso: l’adozione massiccia dell'AI, pensata per ridurre i costi del lavoro, rischia di farli aumentare
Los primeros retos a los que se enfrentó Ruh con su emprendimiento no fueron los más urgentes, como la seguridad, sino contextuales. “A pesar de que la gente quería usarlo, de repente se quedaban sin ideas, de 'oye, ¿y cómo lo utilizo?’, ‘¿qué le pido?’, ‘¿cómo hago que esto sea diferente a ChatGPT?’”, cuenta. Entre la falta de conocimiento de sus clientes sobre las capacidades de la IA agéntica y el aumento en el costo del poder de cómputo, Ruh pausó su proyecto hace poco. Ya no le daban las cuentas.
A nivel nacional, solo el 8% de las empresas de más de 10 empleados reporta utilizar IA, según un estudio de Centro México Digital (CMD), una asociación que trabaja en temas de digitalización. “Las empresas más grandes están mucho más digitalizadas que las empresas más chicas y la diferencia es de casi tres veces [la adopción] entre las grandes y las pequeñas”, dice Alberto Farca, co-fundador de CMD. Aún así, la adopción para muchos se hace a ciegas.
A este contexto lento y algo incierto de adopción tecnológica se suma ahora la IA agéntica: desarrolladores ávidos de estar jugando con el último avance tecnológico y empresas deseosas de eficientar y no quedarse atrás. “La IA agéntica es un experimento social técnico”, dice Ruh. “¿Por qué? Porque todo puede salir mal”.
Emprendimientos de varios tamaños y en distintas ramas ya están implementando la IA agéntica en sus procesos a pesar de que la tecnología es todavía experimental y no existen marcos regulatorios que la gobiernen. Las empresas mexicanas JAAK y Handle, por ejemplo, utilizan IA agéntica para la verificación de identidad y en la industria de seguros, respectivamente. “Estás conviviendo con muchos más agentes de lo que te imaginas. Digamos que estás rodeada y ni siquiera lo sabes”, dice Rodríguez.
Muchas empresas y profesionistas “techy” le están apostando a la IA en nombre de la productividad, la optimización, la eficiencia y el retorno de inversión. “La carga que antes hacía que me desvelara, hoy la estoy sacando en tiempo récord”, cuenta Rodríguez. Lo que le tomaba 10 horas, ahora le toma 45 minutos.
Ver más
La generación algoritmo: ¿Debemos prohibir las redes para las infancias?
En esta entrega especial, WIRED en Español reúne evidencia científica, experiencias de familias, debates sobre regulación y perspectivas de especialistas para entender cómo las plataformas digitales están transformando la infancia y qué alternativas existen para protegerla sin perder de vista sus derechos.
Arrow
La automatización provocada por la IA auspicia un mercado laboral con menos empleos para mucha gente. Incluso pudiera ser un factor que desplace a miles de trabajadores en la industria tecnológica. Constanza Gómez Mont, fundadora de C Minds, un laboratorio de innovación que diseña e impulsa estrategias, políticas públicas y alianzas multisectoriales para aprovechar tecnologías emergentes, se pregunta si la IA agéntica se alinea con el tipo de sociedades que queremos y al tipo de realidades que queremos habilitar y habitar. Su respuesta es desarrollar un modelo para la conservación de áreas marinas protegidas que les permitiría acelerar procesos que antes tomarían años.
“Si lo que estamos acelerando sigue siendo una economía basada en extraer y no en regenerar, estamos acelerando la inequidad, la degradación ambiental”, dice. Para ella, los valores de la IA agéntica deberían partir de las bases del bienestar, entendido como “beneficio compartido, que es balance ecosistémico, que es reciprocidad, que es integralidad de los sistemas naturales y humanos”.
Israel Castro, un contador convertido en programador, creó y puso a la venta Abacus, un agente fiscal contable al que le puedes pasar las facturas del mes de una empresa y pedirle un análisis de Excel, o pedirle referencias legales sobre un caso en específico, y te responde con referencias y artículos vigentes. Castro también hace uso de la IA agéntica en su trabajo como contador. Una noche se desveló creando un “pequeño humano” con Claude Code para que se conectara a la página del SAT. Según Castro, lo que antes le hubiera tomado un par de semanas, ahora el agente lo puede hacer en 20 a 40 minutos. El contador le carga datos como el RFC y la contraseña de sus clientes, y el agente consulta y descarga facturas y constancias del SAT.
Los riesgos de los agentes de IA
Los agentes se conectan a grandes modelos de lenguaje y una vez que ingresamos datos o le damos acceso a nuestras cuentas, la información viaja a sus servidores. En términos simples, entran a una caja negra. Como usuarios y dueños de esta tecnología desconocemos el tratamiento final o el nivel de protección de nuestros datos más allá de lo que las empresas como OpenAI, Anthropic o Google revelan en sus términos y condiciones.
Los riesgos para la protección de datos que crea la tecnología preceden al advenimiento de la IA generativa y agéntica. Las brechas en alfabetización digital de la población mexicana, también. “En México, levantas una piedra y encuentras bases de datos,” explica Castro. “Entras a un grupo de WhatsApp y ves INEs, documentos; pareciera que nadie entiende lo que significa un dato personal”. La IA recrudece esta realidad.
“Tú realmente no sabes a dónde van tus datos ni dónde se están alojando”, explica León Palafox, especialista en inteligencia artificial. “Podrías mandar información importante de clientes, familiares, direcciones, información médica”. Esta característica no es única de la IA agéntica. Lo mismo pasa cuando le hacemos una consulta a un chatbot como ChatGPT o Gemini, pero la ecuación cambia cuando son empresas o terceros los que ingresan nuestros datos al modelo para utilizar IA agéntica.
Castro, en la política de privacidad de Abacus, especifica que los modelos detrás de su proyecto son de terceros y que, por lo mismo, los servidores están fuera de su control. “No mandes información que identifique directamente a tus clientes… RFC genérico, montos sin nombre, escenarios sin razón social. El análisis fiscal funciona igual de bien —y tú quedas cubierto”, advierte. Su aviso de privacidad termina con la siguiente frase: “Si eso te incomoda, es válido. Si puedes trabajar con eso, bienvenido”. Castro usa datos anonimizados en su propia práctica cuando es posible.
Concentra 79% de la capacidad instalada y atrae inversiones millonarias de Microsoft, Google y AWS. Así es Querétaro, la capital mexicana de los centros de datos. Pero mientras crecen las ganancias, comunidades locales denuncian presión sobre el agua, empleos limitados y una prosperidad que no llega para todos.
Rodríguez, el abogado que integra IA en su negocio, lanza la siguiente pregunta: “¿Cuál es tu miedo?”. En el caso de Lawgic, Rodríguez usa un chatbot, gestionado por un agente, que atiende a clientes por WhatsApp. “Por qué te importaría que la persona que te responda sea una persona física y no un agente digital?”, continúa. “O sea, si tú me compartes tu RFC, va a terminar en una base de datos, tanto si se lo das a la persona que te atiende físicamente o a un bot”.
Quienes quieran experimentar con IA agéntica deben preguntarse quién es su usuario y qué nivel de alfabetización digital tienen, explica Palafox. “¿Lo va a utilizar alguien que no tiene la más remota idea de nada de esto? ¿Y me va a creer de buena fe que mi modelo sabe hacer todo bien?”. La responsabilidad del proveedor es tener salvaguardas para cuando el modelo se equivoque, concluye.
Es un hecho que la inteligencia artificial, agéntica o no, se va a equivocar. La IA no debería antropomorfizarse para dotarla de responsabilidad, argumenta Ruh. “Si algo sale mal, es como la IA hizo esto, la IA quiso matar a alguien, o la IA convenció a alguien de que se suicidara y no es la IA, hay personas que la usan, hay personas que la entrenan, hay personas que la comercializan, hay personas que la aprueban”.
México actualmente no cuenta con un marco jurídico que regule el desarrollo y uso de la IA, lo que dificulta establecer la cadena de responsabilidades en su despliegue. Al respecto, Pablo Pruneda, titular del Consejo Coordinador de Inteligencia Artificial (CCOIA) de la UNAM, señala que esto abre la puerta a dilemas tan existenciales como el debate sobre la personalidad jurídica de las máquinas.
“El dilema no es menor porque es una tecnología que nos promete dos cosas, unas terroríficas pero otras maravillosas. Por un lado, abona al florecimiento de la especie humana, pero por el otro, nos genera riesgos de extinción de la propia especie”, dice Pruneda.
Legisladores y expertos analizan la posibilidad de regular esta tecnología con un marco regulatorio general basado en principios de transparencia y explicabilidad, no en disposiciones vinculantes, explica el académico. “Marcos de seguimiento para que después puedan acompañarse de mecanismos de incentivos”. Este enfoque prioriza el ritmo acelerado de la innovación sobre el enfoque cauteloso y pausado de la regulación. En ese supuesto, el usuario podría saber si el modelo cumple con los marcos éticos que establece. “Tú sabrás como usuario si te interesa hacer uso de una herramienta que puede vulnerar tu privacidad”.
Las leyes de protección de datos no cubren por completo los alcances de la IA. “Si tú estás haciendo un tratamiento de datos que pudiera impactar de manera relevante en el derecho a la privacidad, tendrías que realizar evaluaciones de impacto en la privacidad para saber que ese sistema está cumpliendo efectivamente con esas cosas”, dice Vladimir Chorny, investigador asociado de la Red en Defensa de los Derechos Digitales (R3D). Además, el secreto industrial de la IA propietaria limita la información indispensable para asegurar que las empresas cumplan con la ley, señala el abogado. “Nosotros [México] necesitaríamos tener marcos adecuados de transparencia”, agrega. “No es cuestión de confiar, definitivamente”.
Sin un marco regulatorio, la rendición de cuentas pasa a segundo plano y tampoco es sencillo. Ruh decidió transparentar el secreto industrial de su agente cuando sus clientes querían saber cómo configurarlo. “Nos subíamos a una videollamada, les abría yo todo, y se los enseñaba. ¿La gente lo va a hacer así? No. ¿Tiene la obligación? Tampoco”.
Castro, al reconocer que la IA no es infalible, ofrece consultas uno a uno para evaluar el resultado que arrojó la IA a través de Abacus. Por su parte, Rodríguez considera que su responsabilidad hacia sus clientes es darles un servicio o producto que les funcione. “No sabemos cómo funcionan muchas cosas que usamos en la vida diaria, pero lo que sí sabemos es el resultado”. En el caso de su producto agéntico, que automatiza tareas, hace búsquedas, analiza documentos, procesa oficios, responde a clientes, entre otras funciones, el criterio final se lo deja a su cliente.
El cambio tectónico que está generando la IA en nuestra sociedad parece irreversible. “Yo soy partidaria de que empecemos a tener criterio conociendo la tecnología; no te digo que des todos tus datos, sino que empieces a experimentar para conocer”, dice Ruh.
Rodríguez lleva esta apuesta por la experimentación aún más lejos. Sostiene que si no despejamos la ecuación de nuestro miedo ni entendemos los daños del pasado, será necesario que “se nos ahogue el niño para después tapar el pozo”.