Anthropic incorpora marcas de agua para identificar contenidos generados por Claude
Anthropic se alineará con los nuevos requisitos de transparencia que exige la Unión Europea. La empresa anunció que todos los modelos de Claude lanzados a partir del 2 de agosto incluirán un sistema de etiquetado que permitirá a las audiencias, plataformas y otros servicios de terceros identificar los contenidos generados por estos sistemas de inteligencia artificial (IA).
La medida busca cumplir con el artículo 50 (2) de la Ley de IA del bloque comunitario, que desde principios de este mes obliga a las empresas tecnológicas a etiquetar de forma clara los contenidos sobre asuntos de interés público creados o manipulados con esta tecnología.
“A medida que el contenido generado por IA se vuelve más común, una mayor transparencia e información sobre su origen pueden brindar a los usuarios un contexto útil sobre la información que consumen. Para fomentar la transparencia y cumplir con nuestras obligaciones legales, Anthropic está trabajando para incluir marcas legibles por máquina en el contenido que genera Claude”, explicó la compañía en una página de soporte.
El sistema de etiquetado anunciado por Anthropic se incluirá por defecto en sus próximos modelos de IA. No obstante, la compañía todavía trabaja en la compatibilidad con sus algoritmos y productos preexistentes, en virtud del periodo de gracia de cuatro meses que ofrece la ley para cumplir con los requisitos.
Los informes de Meta, OpenAI y Anthropic sobre los hackeos protagonizados por sus sistemas de IA serían parte de una estrategia para fortalecer su posición en el mercado, según analistas.
¿Cómo funcionará el sistema de etiquetado en Claude?
La empresa explica que la marcación se realizará de manera diferenciada según el formato del contenido generado. Las imágenes o gráficos creados con IA incluirán metadatos que evidencien su origen, basados en el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
Por otra parte, los materiales de texto se identificarán por marcas de agua invisibles que se mantendrán incluso al copiar y pegar el contenido en plataformas de terceros y podrían persistir después de ciertas ediciones.
“La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente independientemente del producto Claude o de la superficie de origen del texto. No la verás y no altera el significado, la calidad ni la legibilidad de la respuesta de Claude”, precisa la empresa.
Anthropic adelantó que trabaja en un mecanismo para que usuarios y terceros puedan detectar las marcas de agua y los metadatos de procedencia que servirán para identificar los contenidos creados por Claude. La compañía afirmó que dará a conocer próximamente los detalles sobre este mecanismo.
Las marcas legibles por máquina se aplicarán globalmente a los modelos Claude compatibles, incluidos Claude Platform (API), Claude, Claude Code, Claude Cowork y Claude Tag. También estarán presentes cuando se acceda a los modelos Claude a través de AWS, Google Cloud o Microsoft Foundry.
Un sistema aún lejos de ser perfecto
El equipo de Anthropic reconoce que su sistema de etiquetado tiene ciertas limitaciones. Explica, por ejemplo, que si un sistema encuentra una marca de Claude, esto indica que el contenido pudo haber sido procesado por el modelo, pero no demuestra necesariamente que la IA haya creado originalmente las ideas, la información o el texto.
La empresa añade que también puede ocurrir que el sistema no incluya una marca detectable en contenido generado o procesado por Claude de forma automática en algunos casos concretos. Según lo publicado en la página de soporte, esto podría suceder si el material fue generado por un modelo lanzado antes del 2 de agosto; si el texto fue editado, parafraseado, traducido o mezclado considerablemente con otros contenidos; si el fragmento es demasiado corto para identificar una señal confiable, o si los metadatos de un archivo fueron eliminados al convertirlo, guardarlo nuevamente o tomar una captura de pantalla.
Por ello, Anthropic advierte que la presencia de una marca debe entenderse como una señal de procedencia y no como una prueba absoluta de autoría humana o artificial.
Con el anuncio, Anthropic se ha convertido en una de las primeras empresas en comunicar su compromiso de ajustar sus productos para cumplir con la Ley de IA vigente en la Unión Europea. No obstante, las medidas anunciadas solo abordan una parte de los requisitos estipulados por la normativa.
Por ejemplo, el marco regulatorio establece que los contenidos generados con IA deben combinar marcas invisibles y metadatos, así como iconos identificables a simple vista para informar sobre su procedencia. También exige que los sistemas interactivos de IA, como los chatbots, informen a los usuarios de manera explícita y desde el primer contacto que son asistentes artificiales.
No obstante, es posible que la empresa anuncie próximamente modificaciones al respecto, toda vez que también es uno de los firmantes del Código de Buenas Prácticas relacionado con la Ley de IA de la Unión Europea.