Readable Before Actionable: Causal Tracing of Indirect Prompt Injection

arXiv cs.AI · 6 oct, 06:00

Un artículo de investigación que analiza la inyección de prompt indirecta en agentes LLM mediante técnicas de causal tracing. Los autores distinguen entre la capacidad de un modelo de identificar instrucciones inyectadas (readable) y la de cambiar efectivamente su comportamiento para evitar seguirlas (actionable), utilizando activation patching y pruebas de rol contrafácticas en modelos como Qwen y conjuntos de datos como AgentDojo.