Escaping Alignment: A Physical Trap Model of Best-of-N Jailbreaking

arXiv cs.AI · 29 sept, 06:00

Investigadores presentan un modelo físico para entender cómo el jailbreaking Best-of-N elude las salvaguardas de modelos alineados. El trabajo desafía hallazgos previos sobre el crecimiento de la tasa de éxito del ataque, mostrando que el exponente cambia con N y que hay un cruce exponencial que refleja artefactos en los datos adversariales.