Defusing Explosive Prompts: Understanding and Preventing Trigger-Based Prompt Injections in LLM Agents

arXiv cs.CR · 22 sept, 06:00

Investigadores presentan los "explosive prompts", inyecciones de prompts indirectas que permanecen dormidas hasta que se cumple un trigger elegido por el atacante, evitando defensas convencionales. En pruebas con nueve agentes LLM de producción (OpenAI Codex, Google Gemini, Anthropic Claude, GitHub Copilot, entre otros), estos prompts tienen una tasa de éxito del 43-83% frente al 3% de línea base imperativa. Proponen DeFuse, un detector que alcanza una tasa de falsos positivos del 3% a presupuesto del 5%, reduciendo ataques de ejecución de herramientas del 34.3% al 7.5-8.1%.