Bounded Reachability & Jailbreak Detection via Contraction-Constrained State Space Models

arXiv cs.AI · 5 oct, 06:00

Investigadores proponen cabezas de seguridad basadas en modelos de espacio de estados (SSM) para detectar entradas dañinas en modelos de lenguaje, con garantías formales de robustez. El trabajo demuestra que cuando la norma del operador de transición de estado satisface una condición de contracción matemática, es posible certificar formalmente que el detector produce la misma predicción bajo perturbaciones acotadas en el espacio de incrustaciones, mejorando la detección de jailbreak desde un 41 % a un 59 % de ejemplos certificados.