PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents

arXiv cs.CR · 2 oct, 06:00

PACE es un sistema de enforcement que media las llamadas a herramientas de agentes LLM antes de su ejecución, verificando que los efectos solicitados se alineen con las autoridades certificadas. El trabajo evalúa la defensa sobre ocho benchmarks de seguridad, logrando bloquear ataques en la mayoría de los casos sin pérdidas significativas de utilidad.