Meta lanza Muse: un agente de IA que promete hacer tus tareas sin quedarse con tus datos

Meta anunció el lanzamiento de Muse, un agente de IA personal al que los usuarios pueden enviar mensajes para automatizar tareas digitales en un entorno seguro en la nube, todo ello con una seguridad y privacidad que, según la empresa, están "integradas desde el principio".

Muse se lanza hoy para los usuarios de iOS y Android a través de una aplicación oficial, así como en la página web Muse.ai. Los usuarios también pueden enviar mensajes directamente a Muse a través de WhatsApp para interactuar con el agente. Meta afirma que los usuarios de sus gafas inteligentes pronto podrán interactuar con él.

Puedes probar Muse de forma gratuita, pero aquellos que deseen automatizar numerosas tareas digitales necesitarán uno de los planes de suscripción de IA de la empresa.

Meta da luz verde a su agente de IA

Muse es el último intento de Meta por competir con agentes de IA que se han hecho virales, como OpenClaw e Instinct, a los que los usuarios pueden enviar mensajes para automatizar tareas digitales. Muse es un producto de Meta Superintelligence Labs, la unidad de IA que el CEO Mark Zuckerberg creó hace aproximadamente un año para ponerse al nivel de OpenAI y Anthropic, ofreciendo a algunos investigadores paquetes retributivos espectaculares para que se unieran a ella. La unidad se creó partiendo de la convicción de que los agentes de IA transformarán la forma en que los usuarios habituales navegan por internet, así como los productos de Meta.

Meta ha estado probando Muse internamente bajo el nombre clave "Hatch", y los empleados lo han usaron para manejar de forma autónoma aplicaciones de terceros y navegar por la web en su nombre.

Meta afirma en una entrada de blog que cualquiera puede utilizar Muse nada más instalándolo y que el producto se diseñó "para que no haya curva de aprendizaje". Los usuarios pueden dar instrucciones a Muse en lenguaje natural, y el agente trabajará por su cuenta para enviar correos electrónicos, reservar viajes o incluso ayudar a vender un auto en nombre del usuario.

Muse también es capaz de realizar compras en nombre de los usuarios, completando el proceso de pago mediante una infraestructura especial diseñada por Stripe. La herramienta de pago, que Stripe denomina Link, genera un número de tarjeta de un solo uso para que los agentes no tengan que introducir la información financiera real de una persona en internet. Meta afirma que Muse es el primer agente de IA amparado por las protecciones de compra de Link para agentes, lo que garantiza devoluciones sin comisiones.

Meta llega tarde al lanzamiento de un asistente personal, pero parece que busca diferenciarse centrándose en las funciones de seguridad y privacidad. El asistente se estrena con una arquitectura para todos los usuarios denominada Secure VM, cuyo objetivo es aislar la actividad de cada usuario en una denominada máquina virtual para mantener los datos no fiables de la web y de cualquier integración separados de la parte del asistente que realmente puede actuar en nombre del usuario.

La empresa está probando robots capaces de cambiar cables, reiniciar servidores y realizar otras tareas que normalmente hacen los técnicos. Esto ha generado preocupación entre algunos trabajadores, que temen que sus puestos puedan estar en riesgo.

¿Qué tan confiable es Muse?

Un agente de IA personal requiere mucha confianza por parte de los usuarios, algo con lo que Meta ha tenido problemas a lo largo de los años. Ahora, para conseguir que los usuarios prueben Muse y le den acceso a aplicaciones y servicios de terceros, la empresa intenta convencerlos de que puede gestionar sus datos de forma responsable.

"Si vamos a crear un producto como este, que puede acceder a numerosas fuentes de datos personales, debemos ser responsables al respecto, por lo que hemos diseñado este sistema de forma muy deliberada", afirma David Singleton, vicepresidente de ingeniería de productos de consumo del Meta Superintelligence Lab.

"Hemos creado 'Sentinel', que supervisa todo lo que sale de la máquina virtual. Primero comprueba si la acción está contemplada en una política que el usuario o el sistema ya autorizó. Si no es así, muestra un cuadro de diálogo para pedirte que apruebes lo que está a punto de hacer".

Singleton señala que estas solicitudes de confirmación por parte de una persona llegan directamente al usuario y no se filtran a través del modelo, para protegerse contra ataques como las inyecciones de comandos (prompt injection).

Aunque Secure VM está diseñada para garantizar la seguridad y la privacidad del usuario, no es una caja negra. Singleton señala que, aunque las políticas de Meta le prohíben acceder a los datos de Muse de los usuarios, técnicamente seguiría siendo posible. Los usuarios pueden optar por no permitir que sus datos se utilicen para el entrenamiento.

Meta asegura alta seguridad en su agente

La arquitectura de Secure VM es digna de mención desde el punto de vista de la privacidad, aunque solo sea como forma de establecer un nuevo estándar del sector para los agentes de IA. Con el tiempo, Meta también ofrecerá Confidential VM de Muse, diseñada para que cada máquina virtual se ejecute en un "entorno de ejecución de confianza" y los usuarios gestionen sus propias claves de acceso de forma local en sus dispositivos. De esta forma, ni siquiera Meta podrá acceder a la máquina virtual del agente de ese usuario.

"Confidential VM forma parte de la colaboración de Meta con Moxie Marlinspike, creador de la aplicación de mensajería con cifrado de extremo a extremo Signal, quien también ha desarrollado en los últimos años la plataforma de IA centrada en la privacidad Confer".

WIRED tuvo acceso a un borrador preliminar de un libro blanco técnico que describe Confidential VM. Además de diseñar el sistema para que los usuarios mantengan el control de sus claves de acceso, Meta permitirá que determinadas empresas de seguridad revisen el código fuente de Confidential VM para auditar y comprobar periódicamente sus garantías de privacidad.

La empresa también publicará los binarios de Confidential VM, archivos con instrucciones legibles por máquina, y un registro de transparencia, de modo que los usuarios puedan verificar la validez e integridad de su conexión con Muse.

Singleton destaca que Muse Secure VM ya ha sido sometida a exhaustivas pruebas de seguridad, tanto por parte de los equipos rojos humanos y automatizados de Meta como a través del programa privado de recompensas por errores de la empresa. Y ahora Meta está incluyendo a Muse también en el ámbito de su programa público de recompensas, con pagos de hasta 300,000 dólares por hallazgos válidos de vulnerabilidades, incluyendo hasta 130,000 dólares por ataques exitosos de inyección de comandos que afecten a un único usuario.

Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.