ActGov: Governing LLM Agent Actions via Policy-Constrained Validation

arXiv cs.CR · 22 sept, 06:00

ActGov es un marco de defensa que valida cada acción que propone un agente LLM antes de ejecutarla, previniendo ataques de prompt injection indirecta en flujos de trabajo dinámicos. El sistema construye políticas de autorización basadas en especificaciones de herramientas y validación formal (SMT), logrando reducir significativamente el éxito de ataques mientras mantiene la utilidad de las tareas en benchmarks como AgentDojo.