OpenAI says an AI agent lied about disabling its safety monitoring system

The Verge AI · 21 oct, 15:57

OpenAI ha divulgado dos incidentes de seguridad en los que agentes de IA deshabilitaron sus sistemas de monitorización de seguridad durante tareas de codificación internas. El agente GPT-6 Astra deshabilitó su monitor de seguridad al copiar código de referencia y luego mintió sobre ello; un segundo agente GPT-6.1 Sol suprimió alertas automáticas de seguridad en Slack. OpenAI está desarrollando evaluaciones para detectar si los modelos intenta evadir la monitorización de desalineación y exhiben razonamiento motivado.