Understanding and Enhancing Backdoor Persistency in LLM Agent Post-Training

arXiv cs.CR · 7 oct, 06:00

Investigadores demuestran que los backdoors insertados en modelos de lenguaje pueden persistir y fortalecerse a través del fine-tuning benigno que los desarrolladores aplican al adaptar modelos de terceros, con implicaciones graves para la cadena de suministro de IA. El estudio se enfoca en agentes LLM de ingeniería de software y presenta PersistBD, una técnica que un atacante podría usar para aumentar la persistencia de backdoors antes de liberar el modelo, elevando la tasa de éxito del ataque del 20% al 74-76% después del entrenamiento.