Protecting Shared Agent Workflows from Invalidation Attacks with Signed Trajectories and Runtime Verification

arXiv cs.CR · 14 oct, 06:00

Investigadores presentan un marco de defensa contra ataques de invalidación en repositorios compartidos de workflows de agentes basados en LLM. El ataque compromete el repositorio para introducir workflows manipulados que inducen fallos o comportamientos inseguros en agentes descendentes, logrando tasas de éxito del 90% en algunos casos. La solución propuesta utiliza trayectorias firmadas criptográficamente y verificación en tiempo de ejecución para proteger la integridad de los workflows.