OpenAI is adding invisible watermarks to ChatGPT and Codex text in the EU
BleepingComputer · 6 oct, 00:46
OpenAI está añadiendo marcas de agua invisibles a los textos generados por ChatGPT y Codex en la Unión Europea usando su tecnología textGrain, que modifica sutilmente las elecciones de palabras del modelo para crear un patrón estadístico detectable. La marca de agua no es visible al leer o copiar el texto, y OpenAI ha abierto solicitudes para acceder al detector, aunque inicialmente solo para investigadores y organizaciones expertas aprobadas.
La tecnología textGrain de OpenAI modifica ligeramente las elecciones de palabras del modelo para crear un patrón estadístico que puede detectarse posteriormente sin afectar la calidad de salida: los resultados de benchmark de GPT-6 Astra permanecen esencialmente iguales cuando está habilitado.
Sin embargo, las pruebas internas de OpenAI revelan que las marcas de agua son frágiles. En evaluaciones de pasajes de 400 tokens, reemplazar el 10% de palabras con sinónimos redujo la detección de aproximadamente 92% a 66%, y reemplazar el 25% la redujo al 17%. Con una tasa de falsos positivos objetivo del 1%, OpenAI detectó la marca de agua en aproximadamente el 80% de respuestas de psicología de 200 tokens, en comparación con aproximadamente 95% en textos de 400 tokens. La detección fue aún peor en matemáticas, donde el modelo tiene menos libertad para elegir palabras diferentes. OpenAI advierte que la ausencia de marca de agua detectada no prueba autoría humana, y que un texto generado puede ser demasiado corto, editado o traducido para una detección fiable.
Puntos clave
- Marca de agua invisible basada en patrones estadísticos en elecciones de palabras
- Disponible primero en UE; desarrolladores API pueden activar globalmente desde hoy
- Detección del 80-95% según longitud del texto, degradación significativa con edición (10% cambio → 66%, 25% cambio → 17%)
- No revela identidad del usuario, cuenta, prompt o qué parte fue humana
- Acceso inicial al detector limitado a investigadores y organizaciones aprobadas
Figuras de la fuente
