CircuitBreak: Pruning a Sparse Safety Circuit of Neurons

arXiv cs.CR · 14 oct, 06:00

Un nuevo ataque llamado CircuitBreak demuestra cómo desactivar los mecanismos de seguridad de modelos de lenguaje grandes mediante la poda selectiva de neuronas. El método identifica un pequeño conjunto de neuronas en capas feed-forward cuya ablación conjunta desactiva los rechazos de solicitudes peligrosas, logrando tasas de éxito del 87%–88% tras eliminar solo 29–150 neuronas (menos del 0,04% de parámetros) en modelos como Llama y Qwen.