Self-Evolving Defense: Continual Security Policy Learning for LLM Agents

arXiv cs.CR · 30 sept, 06:00

Investigadores presentan Self-Evolving Defense (SED), un marco de defensa sin reentrenamiento que aprende políticas de seguridad a partir de trayectorias de ataque contra agentes LLM. El sistema adapta continuamente las defensas contra inyecciones de prompts y jailbreaks sin actualizar los pesos del modelo, demostrando resultados significativamente mejores que las defensas existentes en tres modelos de código abierto (DeepSeek V4 Flash, GLM 5.2 y Kimi K3).