Beyond Refusal Patterns: Safe-Role Internalization for Robust and Generalizable LLM Safety Alignment

arXiv cs.AI · 7 oct, 06:00

Investigadores presentan SSRFT, un marco de alineación de seguridad para LLM que internaliza un rol seguro predefinido en lugar de depender únicamente de patrones de rechazo explícitos. El método utiliza un dataset de preguntas psicométricas y prompts jailbreak limitados para entrenar modelos que sean más robustos frente a ataques y que generalicen mejor a nuevos dominios adversariales, reduciendo además el rechazo excesivo de consultas legítimas.