EmoRSS: Mitigating Emotion-Induced Over-Refusal in Large Language Models

arXiv cs.AI · 6 oct, 06:00

Investigadores proponen EmoRSS, un método para mitigar el rechazo excesivo de los grandes modelos de lenguaje cuando reciben solicitudes con expresión emocional. El trabajo demuestra que las emociones pueden aumentar sistemáticamente la tendencia del modelo a rechazar solicitudes inofensivas, y presenta una técnica de steering de activaciones que corrige este comportamiento sin comprometer la seguridad frente a solicitudes dañinas.