ASCENT: First-Order Optimal Fine-Tuning with Recalibration for Safety--Utility Co-Enhancement

arXiv cs.CR · 7 oct, 06:00

ASCENT es un método de fine-tuning para modelos de lenguaje que busca mejorar simultáneamente la utilidad (rendimiento en tareas) y la seguridad (resistencia a ataques adversariales). Los autores proponen un framework que alterna entre actualizaciones de tareas optimizadas y calibraciones de seguridad periódicas, basadas en análisis matemático de cómo los cambios de parámetros afectan la seguridad del modelo.