TRACE: Trajectory Return Attribution and Contrastive Erasure for Multi-Turn Safety

arXiv cs.AI · 2 oct, 06:00

TRACE es una técnica de entrenamiento que refuerza la seguridad de los modelos de lenguaje frente a ataques multi-turno, donde un usuario obtiene comportamientos dañinos distribuyendo su objetivo a lo largo de varias preguntas consecutivas. El método utiliza atribución de retorno con erasure contrastivo a nivel de token para mejorar significativamente la robustez frente a siete ataques multi-turno conocidos, logrando las tasas de éxito más bajas en todas las combinaciones evaluadas sin degradar apenas la utilidad del modelo.