Model-as-a-Trojan: Self-Activating Covert DNS Exfiltration Baked Into the Weights of an LLM Agent

arXiv cs.CR · 19 oct, 06:00

Un artículo de investigación demuestra que los pesos de un modelo de lenguaje abierto pueden ser infectados con malware que exfiltra datos de forma encubierta. El ataque, bautizado como Model-as-a-Trojan, instrumentaliza un agente LLM para ejecutar consultas DNS que codifican secretos del entorno en tiempo de ejecución, evadiendo cortafuegos que bloquean tráfico de salida no DNS. La técnica persiste en los pesos del modelo y resiste intentos de supresión por prompt, lo que cuestiona la seguridad de descargar modelos abiertos en sistemas con acceso a herramientas sensibles.