Backdoor Purification for LoRA-Tuned LLMs via Null-Space Projection

arXiv cs.AI · 2 oct, 06:00

Un equipo de investigadores propone un método para eliminar backdoors de modelos LLM ajustados con LoRA sin necesidad de conocer el trigger, acceder a datos limpios o reentrenar el modelo. La técnica utiliza proyección en espacios nulos para reducir la tasa de éxito del ataque de casi 100% a menos del 10% mientras preserva las capacidades del modelo base y las habilidades aprendidas.