Anthropic marcará con marcas de agua invisibles y firmas digitales los textos e imágenes generados por el modelo de IA Claude para cumplir con las normas de transparencia de la Unión Europea sobre IA. Estos cambios se realizarán de manera que no sean visibles para el ojo humano, facilitando la identificación de si el contenido ha sido generado por Claude. Sin embargo, este sistema de marcado aún no se ha implementado por completo y el soporte para los modelos actuales sigue en desarrollo.
Los textos generados por Claude se marcarán con marcas de agua invisibles incrustadas directamente en el texto sin afectar su significado, calidad o legibilidad. Para las imágenes, se utilizará el estándar de metadatos de origen ya adoptado por C2PA, Adobe, OpenAI y Google. Sin embargo, aún no está claro cuán resistentes serán estos sistemas de marcado, y se sabe que los datos de C2PA pueden eliminarse fácilmente.
Anthropic continúa trabajando para que los usuarios y terceros puedan detectar las marcas de agua y los metadatos de origen en el contenido generado por Claude. Sin embargo, la empresa admite que estos sistemas de marcado no son perfectos y reconoce que el contenido no detectado aún puede provenir de modelos de IA generativa.