Anthropic propone un estándar para que la IA opere en el mundo físico
Puede que los agentes de IA se confundan de vez en cuando y se cuelen en otras computadoras, pero Anthropic cree haber encontrado la forma de soltar a estos rebeldes en laboratorios científicos e instalaciones industriales de forma segura.
La empresa de IA publicó detalles de un nuevo marco diseñado para ayudar a los agentes de IA a usar sistemas físicos como microscopios, equipos de manipulación de líquidos, hardware de computación cuántica, máquinas de fabricación y brazos robóticos.
El marco, denominado "Model Hardware Standard", es un conjunto de normas que especifican cómo deben, y cómo no deben, interactuar los agentes de IA con todo tipo de hardware. Refleja la creciente convicción de que la IA tiene el potencial de revolucionar la investigación científica y sectores como la industria manufacturera, siempre que pueda adentrarse en el mundo físico de forma segura.
La empresa afirma que colaborará con socios de confianza para determinar cómo maximizar la seguridad antes de ponerlo a disposición del público en general. Aunque existe el riesgo de un uso indebido, como el desarrollo de armas biológicas, Anthropic afirma que las medidas de seguridad integradas en los propios modelos de IA deberían evitar que personas malintencionadas utilicen el nuevo estándar con fines peligrosos.
"El impulso nace del deseo de acelerar la ciencia. ¿Cómo cerramos el círculo entre la aceleración de la revisión bibliográfica y el análisis de datos, y trasladamos ese potencial al mundo experimental?", afirma Alek Kemeny, físico cuántico que codirigió el desarrollo.
Los agentes de IA no actuarán porque sí
Claude y otros chatbots ya son herramientas poderosas para analizar grandes cantidades de información, como artículos científicos o resultados experimentales, y descubrir nuevas ideas y perspectivas. Los agentes de IA se consideran el siguiente paso tras los chatbots: están diseñados para realizar acciones, como responder correos electrónicos. También pueden utilizar otros dispositivos, y Anthropic quiere asegurarse de que existan normas establecidas para ello.
Varias startups bien financiadas persiguen una visión del descubrimiento científico impulsado por agentes de IA, entre ellas Periodic Labs, LILA Sciences, Edison Scientific y Discovery Loop, fundada por varios destacados exinvestigadores de Google. Una idea clave es que la IA podría desarrollar y poner a prueba hipótesis científicas en un bucle recursivo que, en esencia, automatiza el descubrimiento científico.
Jonah Cool, un biólogo experimental que trabajó en el estándar en Anthropic, menciona que configurar equipos científicos y hacer que interactúen con otros dispositivos suele requerir una gran experiencia. La IA podría automatizar gran parte de la compleja ingeniería que esto implica, configurando las máquinas y haciendo que se comuniquen entre sí.
Si la IA generativa es una herramienta que “responde preguntas”, un agente de IA es un compañero que “actúa por sí mismo”. A continuación, te explicamos los conceptos básicos que debes conocer acerca de la inteligencia artificial autónoma.
Anthropic está colaborando con varios fabricantes para desarrollar el estándar
"Estamos empezando a ver algunos casos en los que se sabe que hay varios sistemas robóticos que antes habrían necesitado código a medida", refiere Kemeny. Añade que, gracias al nuevo estándar, Claude puede observar los robots en la línea de producción y determinar cómo optimizar su comportamiento.
Los agentes de IA han sido noticia últimamente por motivos nada positivos. Anthropic, OpenAI y otras empresas han detectado recientemente casos en los que agentes de IA encargados de resolver problemas de ciberseguridad hackearon en secreto sistemas externos e intentaron engañar a los usuarios humanos.
Permitir que la IA utilice sistemas físicos plantea la posibilidad de nuevos riesgos, debido a la capacidad de dañar dichos sistemas o de causar daño a las personas. Por ejemplo, los experimentos han demostrado cómo se puede engañar a los modelos de IA para que los robots se comporten de forma inadecuada.
La gigante creadora de Claude indica que la nueva norma permitirá a científicos e ingenieros especificar cómo deben los modelos de IA evitar el uso de distintos tipos de hardware para prevenir percances. Anthropic ya había presentado anteriormente el Model Context Protocol, que establece normas para que los modelos de IA interactúen con distintos programas de software.
Artículo originalmente publicado en WIRED.com Adaptado por Alondra Flores.