TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents

arXiv cs.AI · 14 oct, 06:00

Un equipo de investigación identifica un fallo de seguridad en agentes LLM llamado "tool-result misbinding": cuando los resultados de herramientas externas se reutilizan desde cachés o mecanismos de recuperación, pueden asociarse incorrectamente al contexto de ejecución equivocado, llevando al agente a acciones inseguras. El estudio presenta ReplayBench, un benchmark que prueba este fallo en 19 escenarios de agentes con ocho LLMs diferentes, encontrando tasas de error generalizadas (media de 0,649 en pruebas de replay entre tareas).