Who Verifies the Graph? Misspecification Attacks on Causal Action Verification for Language Agents

arXiv cs.AI · 1 oct, 06:00

Investigadores demuestran ataques contra verificadores causales de agentes de lenguaje (como CIVeX), que protegen las llamadas a herramientas mediante grafos de acciones-estados. Corrompiendo solo el grafo comprometido—omitiendo una arista o invirtiendo una flecha—logran aumentar las ejecuciones falsas del 0% al 15–49%, aunque cada acción maliciosa porta un certificado internamente válido.