How to Tame a Multi-Headed Hydra? Adaptive Multi-Category Safety Steering for Large Language Models

arXiv cs.CR · 29 sept, 06:00

Investigadores proponen CAM-Steer, un framework de steering de activaciones para mejorar la seguridad de LLMs ante prompts dañinos que pertenecen a múltiples categorías de daño simultáneamente. El método adapta la dirección y fuerza del steering comparando estados ocultos con prototipos seguros y peligrosos, sin modificar los parámetros del modelo.