Attention Sees, MLP Refuses: Tracing the Attention-to-MLP Safety Pathway in LLMs

arXiv cs.AI · 12 oct, 06:00

Investigadores trazan cómo los transformers de LLMs detectan daño mediante atención pero escriben rechazo a través de capas MLP, explicando por qué estos modelos aún caen ante jailbreaks y sobre-rechazan solicitudes legítimas. Presentan Sentinel, una técnica que combina señales de atención y MLP para reducir ambos problemas en ocho modelos diferentes.