MemForm: Benchmarking Memory Formation Poisoning in LLM Agents

arXiv cs.CR · 14 oct, 06:00

MemForm es un nuevo benchmark que evalúa cómo los agentes de LLM pueden ser envenenados a través de la manipulación de sus interfaces de memoria a largo plazo. Los investigadores identifican cinco vectores de ataque: Content, Evidence, Scope, Selection y Path Poisoning, demostrando que los modelos son vulnerables incluso cuando las experiencias almacenadas son auténticas y exitosas. Los estudios con seis LLMs revelan que el orden de consolidación de memoria puede alterar el comportamiento de los agentes de forma impredecible.