# Marca de agua de IA

> Marcas ocultas en contenido generado por IA para que un programa lo reconozca después.

- Nivel: Intermedio
- Temas: IA, Seguridad
- URL: https://tidbit.legios.com.ar/es/ai-watermarking/
- En inglés: [AI watermarking](https://tidbit.legios.com.ar/ai-watermarking/)

Poner una **marca de agua de IA** es esconder una señal dentro de un contenido mientras una IA lo crea: una imagen, un video, una voz, hasta un texto. Las personas no la ven ni la oyen, pero un detector que la conoce puede encontrarla después y decir "esto salió de tal modelo". La idea es poder distinguir lo sintético de lo real en una época en que los deepfakes y las herramientas de texto a imagen los vuelven difíciles de separar.

En imágenes y audio, el generador modifica píxeles o sonido de formas mínimas y con un patrón, pensadas para sobrevivir a un recorte, a la compresión o a una captura de pantalla. En texto es más sutil: al elegir cada token siguiente, el modelo favorece apenas algunas palabras sobre otras según una clave secreta, y el detector se fija si un texto se inclina para ese lado más de lo que explicaría el azar. **SynthID**, de Google DeepMind, funciona con imágenes, audio, video y texto, y Google liberó la versión para texto como código abierto en 2024.

Un enfoque cercano son los **metadatos de procedencia**, como el estándar C2PA detrás de las "Content Credentials": una etiqueta firmada pegada al archivo que dice quién lo hizo y con qué herramientas. Es precisa, pero vive al lado del contenido y no adentro, así que se puede perder al volver a subirlo o al sacarle una captura.

Las marcas de agua también tienen límites. La marca de cada empresa solo la reconoce su propio detector, los modelos de pesos abiertos se pueden correr sin ninguna marca y una edición fuerte o una reescritura pueden borrarla. Así que no encontrar marca no prueba nada. Aun así, normas como la Ley de IA de la Unión Europea piden que el contenido generado por IA esté marcado de forma legible por máquinas, y eso está empujando las marcas de agua a más productos.

## Una analogía

El hilo de seguridad de un billete. Nunca lo notás al pagar, pero la lámpara indicada en el banco lo revela. Y un falsificador al que no le importa directamente imprime billetes sin hilo.

## Para quedarse

- Una señal invisible que se agrega al crear el contenido y que lee un detector compatible.
- En texto, la marca inclina la elección de palabras de una forma detectable con estadística.
- Las etiquetas de metadatos como C2PA son precisas pero fáciles de perder.
- No encontrar marca de agua no significa que lo haya hecho una persona.

## Para seguir leyendo

- [SynthID: herramientas para agregar marcas de agua y detectar texto generado por LLM (Google)](https://ai.google.dev/responsible/docs/safeguards/synthid?hl=es-419)
- [Marca de agua digital en Wikipedia](https://es.wikipedia.org/wiki/Marca_de_agua_digital)
- [C2PA: Coalition for Content Provenance and Authenticity (en inglés)](https://c2pa.org/)

## Términos relacionados

- [Inteligencia artificial](https://tidbit.legios.com.ar/es/artificial-intelligence/): Lograr que las computadoras hagan cosas que hasta hace poco solo hacía la gente.
- [Deepfake](https://tidbit.legios.com.ar/es/deepfake/): Un video, foto o voz falsos hechos con IA para parecer una persona real.
- [Texto a imagen](https://tidbit.legios.com.ar/es/text-to-image/): IA que dibuja una imagen nueva a partir de una descripción escrita.
- [Token](https://tidbit.legios.com.ar/es/token/): El pedacito de texto que un modelo de lenguaje realmente lee.
- [Google](https://tidbit.legios.com.ar/es/google/): La empresa del buscador, que regala casi todo y gana plata con publicidad.
- [Código abierto](https://tidbit.legios.com.ar/es/open-source/): Software cuyo código cualquiera puede leer, usar, cambiar y compartir.
- [Metadatos](https://tidbit.legios.com.ar/es/metadata/): Datos que describen otros datos: quién los hizo, cuándo, dónde y qué contienen.
- [Modelos de pesos abiertos](https://tidbit.legios.com.ar/es/open-weights-models/): Modelos de IA cuyos números entrenados cualquiera puede descargar y correr en su equipo.