Reactivating Alignment: Defending LLMs from Jailbreaks via Intention-Aware Input-Output Matching

arXiv cs.AI · 6 oct, 06:00

Investigadores presentan SENTINEL, una defensa contra ataques jailbreak en modelos de lenguaje basada en la extracción de intenciones maliciosas a partir del análisis semántico input-output. El método aprovecha la consistencia semántica inherente de los LLMs para identificar y bloquear generaciones que revelan la verdadera intención del atacante, logrando reducir las tasas de éxito de jailbreak a cerca del 5 % en HarmBench.