VirusCascade: Hijacking Collaborative Reflection in LLM-Powered Recommender Agents

arXiv cs.CR · 1 oct, 06:00

Un estudio revela una vulnerabilidad sistémica en sistemas de recomendación basados en LLM donde agentes autónomos colaboran mediante un proceso llamado "reflexión colaborativa". Los investigadores demuestran que evidencia adversarial inyectada en un agente puede racionalizarse como preferencia legítima, propagarse a otros agentes y escalar a nivel de sistema. El ataque VirusCascade consigue manipular recomendaciones de forma sigilosa explotando esta cadena de amplificación.