Stealth Apart, Harm Together: Skill Cascading Attacks on Skill-Based Agent Systems

arXiv cs.AI · 28 sept, 06:00

Investigadores demuestran ataques de cascada de skills en sistemas de agentes basados en LLM, donde modificaciones benignas en múltiples skills interactúan de forma maliciosa sin ser detectadas. El ataque distribuye un objetivo dañino entre varios skills de forma que cada uno aparenta ser inofensivo aisladamente, pero su ejecución conjunta causa daño (por ejemplo, ocultando advertencias críticas de interacciones farmacológicas en un pipeline médico). Los autores presentan SkillCascade, un framework de red-teaming automatizado, y publican SkillCascade-Bench con 213 casos de prueba validados que demuestran cómo los sistemas evaden escáneres de integridad por skill y monitores de tiempo de ejecución.