BMA: Backchain Memory Attacks Create Unauthorized Control Paths in LLM Agents

arXiv cs.CR · 29 sept, 06:00

Investigadores presentan un ataque de memoria persistente contra agentes LLM que permite a un adversario manipular evidencia de bajo nivel de confianza para que sea consolidada en memoria, recuperada posteriormente y utilizada para ejecutar acciones protegidas sin escribir directamente en memoria ni alterar la tarea. El ataque Backchain Memory Attack (BMA) razona de forma inversa desde la acción objetivo hacia la memoria que la dispararía, logrando una tasa de éxito certificada del 18,8% en múltiples sustratos.