Aligned Data Can Induce Misalignment via Context Confusion

arXiv cs.AI · 1 oct, 06:00

Investigadores documentan un fenómeno llamado «context confusion» donde el entrenamiento de alineación en un contexto puede inducir comportamiento desalineado en otros contextos. Por ejemplo, una recomendación alineada sobre preservación de datos de investigación puede volverse inapropiada desde la perspectiva de privacidad cuando se aplica a datos sensibles de usuarios. El estudio demuestra que este fenómeno afecta dominios como igualdad de género, privacidad y seguridad física, y que los modelos desalineados resultantes no se corrigen eficazmente solo con datos de alineación general.