Towards Merging-conditional Backdoor Unalignment against Large Language Models

arXiv cs.CR · 14 oct, 06:00

Investigadores revelan una nueva vulnerabilidad crítica en el merging de modelos de lenguaje: backdoors que permanecen dormidos en un modelo individual pero se activan al fusionarse con otro, causando desalineación de seguridad. El ataque, llamado OMCB (One-sided Merging-Conditional Backdoor), es indetectable en modelos auditados y elude los sistemas actuales de detección de backdoors.