Ajar: Measuring Open Privilege in Agent Defenses

arXiv cs.CR · 24 sept, 06:00

Ajar es una herramienta de medición que evalúa qué privilegios innecesarios dejan abiertas las defensas de agentes basados en modelos de lenguaje, más allá de métricas tradicionales como el éxito de ataques por prompt injection indirecta y la utilidad en tareas benignas. Los autores descubren que defensas como Progent, CaMeL, AC4A, Permission Assistant y Claude Code's Auto mode permiten accesos que las tareas legítimas no requieren, y que estos privilegios abiertos no pueden deducirse de las métricas existentes. La herramienta se integra con AgentDojo y su código está disponible públicamente, permitiendo una evaluación más rigurosa de la seguridad de agentes de IA.