CoDeL: Co-Evolutionary Defense against Indirect Prompt Injection in LLM-based Agents

arXiv cs.CR · 29 sept, 06:00

Un equipo de investigadores presenta CoDeL, un método de defensa contra inyecciones indirectas de prompts en agentes basados en LLM que utiliza co-evolución adversarial durante el entrenamiento. El enfoque entrena un defensor y un atacante de forma conjunta mediante LoRA-based GDPO, optimizando tanto la seguridad como la ejecución de tareas del usuario, logrando reducir la tasa de éxito de ataque en un 88,5% comparado con otros métodos.