Blocking at the Boundary: Auditing Long-Horizon Agents against Staged Prompt Injection

arXiv cs.CR · 6 oct, 06:00

Investigadores presentan un estudio sobre ataques de prompt injection en agentes de largo horizonte (como Claude Code y Codex) que manipulan contenido externo, invocan herramientas y modifican estado persistente a través de múltiples pasos encadenados. Proponen boundary action auditing, una técnica que predice si una acción pendiente debe bloquearse antes de ejecutarse, junto con Path-Aligned Attribution (PAA), un auditor sin entrenamiento que rastrea qué fuentes influyeron en cada decisión del modelo.