Forgetting is Not Always Bad: A Neuro-Inspired Memory Repair Mechanism for Poisoned LLM Agents

arXiv cs.AI · 12 oct, 06:00

Investigadores proponen DREAM, un mecanismo de reparación de memoria inspirado en neurociencia para defenderse contra ataques de envenenamiento de memoria en agentes LLM. El marco, que funciona sin reentrenamiento, logra reducir las tasas de éxito de ataque en más del 95% mientras mantiene la utilidad benigna del modelo y mejora significativamente la eficiencia computacional.