Agent-Canary-Mas: End-to-End Evaluation of Protocol Risk in Long-Horizon Multi-Agent Systems

arXiv cs.AI · 14 oct, 06:00

Agent-Canary-Mas es un sistema de evaluación que mide el riesgo de seguridad en protocolos de comunicación entre agentes LLM en sistemas multi-agente de largo horizonte. El trabajo distingue entre ataques locales exitosos y sus consecuencias downstream, mostrando que el éxito de ataque local (hasta 90%) no siempre se traduce en impacto en la tarea final (7-100%), y propone un Guard basado en contexto que reduce significativamente la tasa de ataque en tareas financieras.