Safeguarding LLMs via Model-Agnostic Latent Safety Signals from Dark Knowledge

arXiv cs.CR · 7 oct, 06:00

Investigadores proponen LADE, un método para defender modelos de lenguaje contra ataques de jailbreak analizando señales latentes de seguridad en las distribuciones de probabilidad de salida. El enfoque es agnóstico respecto al modelo, evita acceder a estados internos y reduce el conflicto entre seguridad y utilidad que afecta a defensas existentes.