OpenAI will start watermarking ChatGPT’s text in the EU
TechCrunch AI · 5 oct, 22:36
OpenAI comenzará a añadir una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea para cumplir con la Ley de IA de la UE. La marca de agua, llamada textGrain, funciona moldeando sutilmente las elecciones de palabras del modelo dejando un patrón que los detectores pueden identificar pero que los lectores no ven. OpenAI publica un informe técnico desarrollado con investigadores de la Universidad de Pensilvania y Yale, y señala que solo proporcionará acceso inicial al detector a organizaciones investigadoras aprobadas.
La regulación entrará en vigencia en agosto de 2026 requiere que las empresas de IA marquen contenido generado por IA de forma que otros sistemas puedan identificarlo. OpenAI desplegará la marca de agua gradualmente en las próximas semanas a usuarios elegibles de ChatGPT y Codex en todos los planes, pero únicamente en la UE. Los desarrolladores que usan la API de OpenAI en cualquier lugar del mundo pueden activarla manualmente para modelos seleccionados desde hoy, con la opción desactivada por defecto.
La marca de agua funciona usando una clave secreta para ordenar predicciones de palabras siguientes, añadiendo cientos de estos ajustes que permiten al detector identificar contenido generado por IA. Sin embargo, pruebas revelan limitaciones: reemplazar el 10% de palabras con sinónimos reduce la detección del 92% al 66%. Textos cortos, respuestas matemáticas y contenido traducido son más difíciles de detectar. OpenAI advierte que una marca de agua ausente no prueba autoría humana, y que puede haber sido removida por edición o provenir de otro sistema de IA.
Puntos clave
- Marca de agua invisible basada en patrones de elección de palabras, no identificable a nivel de usuario
- Desactivada por defecto fuera de la UE; activación opcional para desarrolladores de API
- Detectabilidad reducida con ediciones: 10% de sinonimia baja la detección de 92% a 66%
- Textos cortos y traducidos más resistentes a detección
- Acceso inicial al detector solo para investigadores y organizaciones aprobadas
Figuras de la fuente
