Backdoor Mitigation in Decentralized LLM Fine-Tuning

arXiv cs.CR · 30 sept, 06:00

Se presenta Chorus, un mecanismo descentralizado para detectar y rechazar adapters (módulos entrenables) comprometidos en el fine-tuning colaborativo de LLMs sin coordinador central. El trabajo demuestra que un único nodo malicioso puede propagar backdoors que hacen que otros nodos rechacen prompts con un trigger secreto, y propone una defensa basada en votación vecinal sin necesidad de datos de validación compartidos ni conocimiento del ataque.