SteerProbe: Learning to Bypass Safety Steering in Vision-Language Models

arXiv cs.CR · 1 oct, 06:00

Investigadores demuestran que los sistemas de defensa de steering en modelos de lenguaje y visión pueden ser eludidos mediante reformulaciones de solicitudes dañinas que preservan la intención original. El ataque SteerProbe, que solo requiere acceso a las salidas del modelo, logra aumentar la tasa de respuestas dañinas del 7,43 % al 18,36 % en múltiples modelos y defensas usando únicamente 500 consultas de calibración.