Anthropic sorprende y anuncia que comenzará a marcar con una “marca de agua” los textos generados por Claude

Anthropic incorporará marcas de agua identificables en los textos generados por Claude para cumplir con las nuevas normas de transparencia de la Unión Europea. La tecnología estará presente a nivel de modelo y acompañará al contenido incluso cuando los usuarios lo copien y peguen.

Anthropic comenzará a incorporar marcas de agua en los textos generados por sus modelos de inteligencia artificial, incluido Claude, como parte de su adaptación a las nuevas exigencias regulatorias de la Unión Europea.

La compañía confirmó el cambio en una actualización de su página de soporte sobre cómo identifica el contenido generado por IA. La medida está vinculada con el Código de Transparencia de la AI Act de la Unión Europea, que entró en vigor el 2 de agosto y exige que las empresas de inteligencia artificial incorporen mecanismos que permitan identificar contenido generado o editado mediante IA.

El sistema de Anthropic tendrá una característica particularmente relevante: la marca de agua estará incorporada directamente en el texto. De acuerdo con la compañía, esto permitirá que la identificación acompañe al contenido cuando un usuario lo copie y lo pegue en otro lugar.

Debido a que la marca de agua forma parte del texto, viajará con el texto cuando se copie y pegue en otro lugar, y puede persistir después de algunas ediciones”, explicó Anthropic en su página de soporte.

La empresa agregó que la marca de agua será aplicada a nivel del modelo, por lo que estará presente independientemente del producto o interfaz desde el cual se genere el contenido.

Una obligación que alcanza a los nuevos modelos

Anthropic señaló que todos los modelos lanzados después del 2 de agosto incorporarán automáticamente tecnología para marcar tanto textos como archivos generados por computadora.

En el caso de los archivos, la compañía utilizará C2PA, un estándar abierto destinado a proporcionar información sobre el origen y la procedencia de contenidos digitales.

Anthropic también afirmó que extenderá la compatibilidad con modelos anteriores, aunque el material no especifica cuándo estará disponible esa actualización para cada modelo.

La tecnología se aplicará a diferentes productos y servicios de la compañía, entre ellos Claude Platform API, Claude, Claude Code, Claude Cowork y Claude Tag.

El objetivo es que la identificación no dependa del producto específico que utilice una persona, sino que esté incorporada en la tecnología del propio modelo.

Qué pasa cuando el usuario modifica el texto

Uno de los puntos que todavía no está completamente definido es la resistencia de la marca de agua frente a modificaciones posteriores.

Anthropic sostiene que la identificación puede persistir después de algunas ediciones, pero no precisó cuántos cambios debe realizar un usuario para eliminarla. La compañía fue consultada sobre este punto, pero el material disponible no incluye una respuesta.

La distinción es importante porque el sistema busca resolver uno de los problemas centrales de la identificación de contenido generado por IA: no alcanza con detectar el origen inmediatamente después de su creación si las señales desaparecen cuando el contenido es copiado, editado o reutilizado.

En este caso, Anthropic asegura que la marca está integrada en el texto y no depende únicamente de una etiqueta visible para el usuario.

La industria avanza hacia la identificación de contenido generado por IA

La decisión de Anthropic forma parte de una tendencia más amplia entre las empresas de tecnología y plataformas de contenidos.

Suno, especializada en generación de música mediante inteligencia artificial, anunció recientemente que comenzará a marcar las canciones creadas en su plataforma. La decisión llegó en medio de diferentes disputas legales relacionadas con la generación de música mediante IA.

Por su parte, Substack se asoció con Pangram para identificar contenido generado con inteligencia artificial dentro de los newsletters publicados en su plataforma.

El CEO de Substack, Chris Best, incluso utilizó el término “Claudefishing” para referirse a la utilización de IA para generar contenidos.

La presión regulatoria europea se suma así a una preocupación creciente de las propias plataformas: cómo diferenciar el contenido creado por seres humanos del producido por modelos generativos.

Una lista cada vez mayor de empresas

Anthropic no es la única compañía de inteligencia artificial que se comprometió a cumplir con el código europeo de transparencia.

Entre las empresas que también manifestaron su compromiso aparecen Black Forest Labs, Google, Meta, Microsoft, OpenAI y Synthesia.

La Unión Europea busca establecer mecanismos mediante los cuales los usuarios y otros sistemas puedan identificar contenidos generados o modificados mediante inteligencia artificial.

Para las compañías de IA, el desafío consiste en implementar esos mecanismos sin afectar la utilidad de sus productos y, al mismo tiempo, evitar que el contenido generado por sus modelos pueda circular sin ninguna señal sobre su origen.

En el caso de Anthropic, la apuesta consiste en llevar esa identificación al propio modelo. Así, cada texto generado por las nuevas versiones de Claude incorporará una señal que, según la compañía, podrá acompañarlo incluso cuando salga de su plataforma.

La medida muestra cómo las nuevas regulaciones están comenzando a trasladarse desde las normas generales sobre inteligencia artificial hacia modificaciones concretas en el funcionamiento de los modelos generativos.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

WP to LinkedIn Auto Publish Powered By : XYZScripts.com