Marca de agua de IA

Poner una marca de agua de IA es esconder una señal dentro de un contenido mientras una IA lo crea: una imagen, un video, una voz, hasta un texto. Las personas no la ven ni la oyen, pero un detector que la conoce puede encontrarla después y decir "esto salió de tal modelo". La idea es poder distinguir lo sintético de lo real en una época en que los deepfakes y las herramientas de texto a imagen los vuelven difíciles de separar.

En imágenes y audio, el generador modifica píxeles o sonido de formas mínimas y con un patrón, pensadas para sobrevivir a un recorte, a la compresión o a una captura de pantalla. En texto es más sutil: al elegir cada token siguiente, el modelo favorece apenas algunas palabras sobre otras según una clave secreta, y el detector se fija si un texto se inclina para ese lado más de lo que explicaría el azar. SynthID, de Google DeepMind, funciona con imágenes, audio, video y texto, y Google liberó la versión para texto como código abierto en 2024.

Un enfoque cercano son los metadatos de procedencia, como el estándar C2PA detrás de las "Content Credentials": una etiqueta firmada pegada al archivo que dice quién lo hizo y con qué herramientas. Es precisa, pero vive al lado del contenido y no adentro, así que se puede perder al volver a subirlo o al sacarle una captura.

Las marcas de agua también tienen límites. La marca de cada empresa solo la reconoce su propio detector, los modelos de pesos abiertos se pueden correr sin ninguna marca y una edición fuerte o una reescritura pueden borrarla. Así que no encontrar marca no prueba nada. Aun así, normas como la Ley de IA de la Unión Europea piden que el contenido generado por IA esté marcado de forma legible por máquinas, y eso está empujando las marcas de agua a más productos.