Why Jailbreaks Succeed in Diffusion Language Models: An Energy Landscape Analysis

arXiv cs.AI · 28 sept, 06:00

Investigadores proponen un marco teórico basado en la física del paisaje energético para entender por qué los jailbreaks tienen éxito en modelos de lenguaje de difusión. El trabajo interpreta la alineación de seguridad como barreras energéticas que separan consultas inocuas de las dañinas, y derivan tres señales de detección sin entrenamiento que monitorean estrategias de ataque complementarias.