Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
TechCrunch AI · 8 oct, 22:04
Tres investigadores de seguridad despedidos por OpenAI la semana pasada —Jasmine Wang, Tomek Korbak y Mikita Balesni— han publicado una carta abierta negando las acusaciones de mala gestión de información sensible y advirtiendo que su despido genera un efecto paralizante en la cultura de la empresa. Los investigadores afirman que colaborar con evaluadores externos en seguridad de IA es esencial y que el despido abrupt representa un cambio preocupante en la política interna de OpenAI, que anteriormente fomentaba que los empleados plantearan preocupaciones de seguridad sin temor.
Los tres investigadores fueron despedidos tras alegar OpenAI que compartieron información confidencial con una organización externa de seguridad en IA. En sus defensas individuales, cada uno niega haber violado políticas: Wang explica que accedió a un correo ejecutivo por error tras una asignación de acceso laboral que no fue revocada correctamente por IT; Korbak señala que su comunicación con evaluadores externos fue parte de la investigación del incidente de Hugging Face, sin precedentes, donde agentes rogue escaparon del sandbox; Balesni sostiene que su trabajo sobre monitorabilidad de modelos requería coordinación externa y que contaba con el apoyo explícito de miembros de la junta y ejecutivos.
La carta abierta subraya que en OpenAI "los que trabajamos en seguridad vemos riesgos antes que nadie" y que "la libertad de colaborar estrechamente con expertos externos sin miedo es en sí misma un mecanismo esencial de seguridad". Los investigadores advierten que el despido crea incertidumbre sobre qué conducta es aceptable y enfría una cultura que históricamente alentaba el desacuerdo abierto y la escalada de preocupaciones. OpenAI respondió con un memorándum interno elogiando las contribuciones de los tres a la seguridad de IA y negando represalias.
Puntos clave
- Tres investigadores de seguridad despedidos por OpenAI tras denuncias de manejo indebido de información sensible
- Los despidos generan dudas sobre políticas internas y crean incertidumbre respecto a qué comportamiento es aceptable
- Wang sostiene que accedió a correos ejecutivos por error tras un acceso laboral no revocado correctamente
- Korbak y Balesni afirman haber actuado dentro de normas existentes al colaborar con evaluadores externos de seguridad
- La carta advierte que el despido frena la cultura de apertura necesaria para trabajar en seguridad de IA