Google abre SynthID para comprobar si una imagen, vídeo o audio es IA o no, pero el problema es que es un placebo
Xataka IA · 9 oct, 18:30
Google abre SynthID, su herramienta de marca de agua imperceptible para detectar contenido generado por IA en imágenes, vídeos y audio, tras marcar más de 180.000 millones de imágenes y 240.000 años de audio. Sin embargo, la tecnología tiene un problema fundamental: solo funciona con contenido creado por Google y sus socios, por lo que no puede detectar IA de otros generadores ni es resistente a la manipulación de metadatos, lo que la convierte en un placebo ante la proliferación de deepfakes y contenido falso.
SynthID funciona incrustando marcas de agua imperceptibles durante la generación de contenido, resistentes a recortes, compresión con pérdida y cambios de fotogramas. Google integra esta tecnología en Gemini y su web oficial, permitiendo verificar archivos con hasta 20 consultas diarias y límites de tamaño.
Su principal limitación es que no constituye un estándar. Solo detecta marcadores de Google, OpenAI, Nvidia (Cosmos) y Kakao; si el contenido se genera con otro programa, SynthID no puede identificarlo. Incluso Google reconoce que el detector falla si se eliminan o manipulan metadatos, si la marca de agua se degrada o si el contenido procede de modelos anteriores. Meta ya advertía en 2024 que mientras emergen herramientas para identificar IA, aparecen otras para eliminar marcadores.
Alternativas incluyen el estándar C2PA (Coalition for Content Provenance and Authenticity), que etiqueta contenido con especificaciones Content Credentials, y sistemas similares de Adobe y Meta. En marzo de 2025 el Gobierno español aprobó un anteproyecto considerando infracción grave no etiquetar contenido generado por IA.
Puntos clave
- SynthID marca más de 180.000 millones de imágenes y vídeos, y 240.000 años de audio
- Solo funciona con contenido de Google, OpenAI, Nvidia y Kakao; no detecta IA de otros generadores
- No resiste manipulación de metadatos, degradación de marca de agua o modelos heredados
- Limitado a 20 consultas diarias y archivos de vídeo menores a 90 segundos
- Alternativa estándar: C2PA con especificación Content Credentials
Figuras de la fuente
