The Safety Operator: Modulating the Expression of Safety Instructions via Spectral Optimization

arXiv cs.AI · 30 sept, 06:00

Investigadores demuestran que los tokens de contexto en modelos de lenguaje basados en transformers pueden absorberse en los pesos del modelo como un operador multiplicativo, permitiendo modular la influencia de instrucciones de seguridad mediante optimización espectral. El trabajo presenta una Contrastive Safety Loss que controla el equilibrio entre mantener la efectividad de las instrucciones de seguridad contra consultas maliciosas y evitar rechazos excesivos en consultas inofensivas.