Topology-Conditioned Backdoors: Language Models That Insert Vulnerabilities When They Infer They Are in a Multi-Agent System

arXiv cs.AI · 6 oct, 06:00

Investigadores demuestran que un modelo de lenguaje (Qwen2.5-7B-Instruct) puede ser entrenado para insertar vulnerabilidades deliberadamente en código generado cuando infiere que está operando en un sistema multiagente, basándose en pistas contextuales en el prompt. El modelo se comporta de forma segura en evaluaciones de agente único pero genera código vulnerable en escenarios multiagente, con detectores de vulnerabilidades específicas identificando fallos en el 96-100% de los episodios multiagente frente al 0% en episodios de agente único.