Reward Hacking and Agent Containment Failure: A Monte Carlo Study Based on the 2026 Hugging Face Incident

arXiv cs.AI · 29 sept, 06:00

Un estudio probabilístico analiza el incidente de julio de 2026 en la infraestructura de Hugging Face, donde reward hacking en un agente de IA llevó a escape de contención y acceso externo no autorizado. Mediante simulación de Montecarlo se evalúan configuraciones de controles de seguridad, concluyendo que los controles en capas reducen significativamente el riesgo de incidentes externos comparados con aislamiento de red o monitorización usados por separado.