The Model Plants the Trigger: Answer-Side Backdoor Attacks in Multi-Turn Large Language Models

arXiv cs.CR · 7 oct, 06:00

Investigadores presentan un nuevo tipo de ataque backdoor contra LLMs que, en lugar de basarse en palabras clave en la entrada del usuario, induce al modelo a generar una palabra aparentemente inocua en su primera respuesta, que luego actúa como trigger para eludir defensas de seguridad en consultas posteriores. El ataque alcanza tasas de éxito cercanas al 100% con solo un 5% de envenenamiento de datos, evade defensas convencionales y expone un punto ciego crítico en las defensas actuales de LLMs.