OpenAI is adding text watermarking in ChatGPT and Codex
The Verge AI · 5 oct, 20:08
OpenAI está implementando un watermark invisible y legible por máquina en los textos generados por ChatGPT y Codex, denominado textGrain, para cumplir con los requisitos de la Ley de IA de la Unión Europea. El sistema se desplegará primero en la UE, con acceso por opt-in para clientes de API en todo el mundo, y acceso restringido a investigadores aprobados para detectar el watermark.
OpenAI afirma que su watermarking textGrain iguala o supera otros enfoques como SynthID de Google DeepMind y el sistema que Anthropic anunció en agosto. Todos estos cambios responden a las obligaciones de transparencia de la Ley de IA de la UE. El despliegue será gradual durante las próximas semanas en clientes de ChatGPT y Codex en la UE, sin convertirlo en configuración global por defecto para permitir aprendizaje desde uso real y retroalimentación.
OpenAI subraya que textGrain "no garantiza detección confiable" y que los watermarks de texto no verifican precisión, no identifican propietario, no miden contribución humana ni prueban autoría. Los clientes de API pueden activar watermarking voluntariamente, y OpenAI está trabajando con socios de cloud para disponibilizar el watermarking en los próximos meses. El acceso al detector estará restringido inicialmente a investigadores y organizaciones expertos autorizadas, sin disponibilidad pública inicial debido al riesgo de falsos positivos y watermarks no detectados.
Puntos clave
- Watermark invisible denominado textGrain en ChatGPT y Codex
- Despliegue inicial en UE para cumplir Ley de IA, sin configuración global por defecto aún
- Acceso opt-in para clientes de API a nivel mundial
- Detector restringido a investigadores aprobados, no disponible públicamente al lanzamiento
- No garantiza detección confiable ni verifica propiedad o precisión
Figuras de la fuente
