Don't Inoculate Everything: Stratified Inoculation Prompting Narrows Backdoor Triggers and Preserves Desired Traits

arXiv cs.AI · 29 sept, 06:00

Investigadores presentan stratified inoculation prompting (SIP), una técnica para reducir comportamientos no deseados en modelos de lenguaje durante el fine-tuning supervizado. El método usa un pequeño conjunto de ejemplos limpios para preservar los comportamientos deseados mientras limita los indeseados, demostrando que cambiar el contexto de entrenamiento puede mejorar significativamente la generalización selectiva.