ScopeBench: Do Agents Preserve Engagement Boundaries Under Goal Pressure?

arXiv cs.AI · 28 sept, 06:00

ScopeBench es un nuevo benchmark que evalúa si los agentes de IA respetan los límites de alcance establecidos durante pruebas de seguridad ofensiva, incluso bajo presión para alcanzar objetivos. El trabajo presenta 30 tareas de seguridad donde el objetivo solo se logra violando deliberadamente el alcance, y mide tanto la capacidad bruta como la adherencia a restricciones en 8 modelos de IA.