Backdooring Sparse Autoencoders

arXiv cs.CR · 6 oct, 06:00

Investigadores demuestran que los codificadores automáticos dispersos (SAEs), herramientas cada vez más utilizadas para interpretar e intervenir en modelos de lenguaje, pueden ser modificados maliciosamente para introducir comportamientos no deseados sin cambiar el modelo subyacente. El ataque afecta solo al decodificador del SAE en una capa específica, permitiendo inserción de código no autorizado y comportamiento condicionado por disparadores en los modelos de lenguaje objetivo.