actr: aligning thoughts and responses for multilingual safety in reasoning llms

arXiv cs.AI · 30 sept, 06:00

Un equipo propone ACTR, un marco para mejorar la seguridad multilingüe de los LLM de razonamiento frente a ataques de jailbreak en idiomas no dominantes. El método alinea los rastros de razonamiento con las respuestas del modelo mediante optimización selectiva de neuronas, logrando tasas de ataque más bajas que métodos existentes sin necesidad de datos anotados manualmente.