The Price of Safety: Benign-Case Utility and Token Overhead of Memory-Poisoning Defenses in LLM Agents

arXiv cs.CR · 22 sept, 06:00

Un estudio académico evalúa el costo de desempeño de cuatro defensas contra memory poisoning en agentes LLM durante tráfico benigno. Las defensas de escritura (sanitización, verificación de procedencia, detección de anomalías) no muestran pérdida de precisión estadísticamente significativa, mientras que el reranking reduce la precisión en 4.4 puntos y descarta memorias legítimas en el 33.6% de casos, incurriendo en 2.7% de overhead de tokens. El trabajo sugiere que la ubicación de la defensa en el pipeline es más determinante que si utiliza LLM.