How Narrative Wrapping Affects LLM Refusal: A Cross-Language Benchmark and Defense

arXiv cs.AI · 9 oct, 06:00

Un estudio revela que los modelos de lenguaje alineados en seguridad pueden ser eludidos fácilmente mediante narrative wrapping, una técnica que envuelve peticiones dañinas en contextos narrativos o de rol. Los investigadores descubren tasas de éxito del 89-95% en múltiples idiomas (inglés, chino moderno y clásico) y proponen AXIS, una defensa basada en optimización de preferencias y rotación de representaciones en el espacio latente.