Safe at One Loop, Risky at Another: Aligning Safety Across Recurrent Depths in Looped Language Models

arXiv cs.CR · 9 oct, 06:00

Un artículo de investigación identifica vulnerabilidades de seguridad en modelos de lenguaje recurrentes (LoopLMs) donde ataques jailbreak pueden tener éxito a diferentes profundidades de computación, incluso cuando fallan a otras profundidades. Los autores proponen SafeBridge, un método de alineación de seguridad diseñado específicamente para estos modelos que reduce significativamente el éxito de ataques manteniendo la utilidad general.