Las herramientas incluirán una marca de agua en aquellos contenidos generados por IA.

Nueva marca de agua invisible en todo contenido generado o procesado por IA

¿Qué es esta «marca de agua» y cómo funciona?

Imagina que esta marca es como un sello de «Fabricado con IA» que se coloca digitalmente en el archivo. No es algo que veas a simple vista (no aparece un texto flotando en la imagen), pero está incrustado en el código del contenido.

El objetivo es simple: transparencia. La Unión Europea quiere que cualquier persona que consuma información pueda saber si lo que está leyendo o viendo ha sido generado o procesado por una inteligencia artificial.

El cambio clave: no solo lo que la IA crea, sino también lo que «toca»

Aquí es donde la medida se vuelve más compleja y ha comenzado a generar confusión.

Antes, pensábamos que la marca solo aparecería si le pedías a la IA: «Escribe un poema que hable del amor». Sin embargo, empresas como Anthropic (creadora de Claude) han aclarado que la marca se incluirá en todo contenido procesado por sus sistemas.

¿Qué significa esto en la práctica?

  1. Caso A: Le pides a la IA que escriba un artículo desde cero. -> Tiene marca. (Obvio).
  2. Caso B: Escribes tú un borrador, lo pegas en la IA y le dices: «Corrige la ortografía y mejora el estilo». -> También tendrá marca. (No tan obvio).

Según explican desde Claude: «Detectar una marca sugiere que el contenido podría haber sido procesado por Claude. Sin embargo, por sí sola, esa marca no confirma que Claude sea el autor original».

Es decir, aunque las ideas y el texto original fueran tuyos, el hecho de que la IA haya intervenido para pulirlo deja una huella digital. Esto se aplica a textos, imágenes, música e incluso código informático.

El gran debate: ¿quién se lleva el crédito?

Esta medida ha encendido la polémica, especialmente entre creadores de contenido (escritores, artistas, músicos) y las empresas de IA. La ironía es palpable y resume el conflicto actual de la industria tecnológica:

La paradoja:

  • Los creadores dicen: «La IA se ha alimentado de nuestras obras (pinturas, imágenes, textos, canciones) para aprender, sin preguntarnos ni pagarnos nada».
  • La nueva norma dice: «Ahora, si usas la IA para trabajar, tendrás que avisar a todo el mundo de que pasó por ahí».

Muchos creadores sienten que es una medida injusta. Argumentan que las empresas de IA han «escaneado» internet para entrenar a sus modelos sin dar crédito ni compensación a los autores originales, pero ahora exigen un reconocimiento (la marca de agua), por cada interacción mínima que tienen con el contenido humano.

Una usuaria lo resumió perfectamente en redes sociales: «Claude extrajo todo el contenido de internet para su modelo sin citar ni pagar, pero ahora quiere crédito por su trabajo».

Creación de contenidos mediante IA.
La nueva normativa de la UE, obligará a las empresas tecnológicas que están detrás de los modelos de lenguaje de IA, a incluir una «marca de agua» en el código, para poder identificar todo aquel contenido que haya pasado por dicha tecnología, aunque haya sido creado originalmente por una persona. Imagen generada por IA.

¿Por qué es importante para el usuario general?

Más allá de la polémica, esta norma tiene algunas ventajas para nosotros, como usuarios de internet:

  • Lucha contra la desinformación: Saber si un texto o una imagen son reales o generados por una máquina ayuda a combatir las fake news y el engaño.
  • Claridad en el origen: Nos permite distinguir entre el esfuerzo humano puro y el trabajo asistido por máquinas.
  • Transparencia de mercado: Ayuda a entender qué estamos consumiendo y quién (o qué) está detrás de la creación.

¿Es posible eliminar la marca?

Como suele ocurrir en tecnología, la solución de un problema genera otro. Ya existen herramientas, como Wipe AI por ejemplo, que prometen eliminar estas marcas de agua. Sin embargo, la Unión Europea insiste en que la transparencia es fundamental para mantener la confianza en la información digital.

¿Hacia dónde vamos?

Esta medida es un primer paso necesario en la regulación de la Inteligencia Artificial. Pone sobre la mesa una pregunta que debemos resolver como sociedad: ¿Cómo equilibramos la innovación tecnológica con los derechos de los creadores?

Quizás, en el futuro, la solución no sea solo poner una marca de agua, sino que las IAs también citen sus fuentes o compensen a los artistas cuyas obras utilizaron para aprender. Como dijo el escritor Jorge Dioni al conocer la noticia: «Lo mío es mío. El resto, de todos».

Mientras tanto, si usas estas herramientas para tu trabajo o estudios, es bueno saber que, aunque tú seas el cerebro creativo, la tecnología dejará su firma invisible en el resultado final.

La tecnología no es un fin en sí misma, sino la herramienta que transforma ideas en soluciones; usémosla con propósito y responsabilidad para construir el futuro que queremos.

Reacciones en fediverso

Descubre más desde STI 2020 ®

Suscríbete y recibe las últimas entradas en tu correo electrónico.