Your Model Is Leaking: Covert Information Transfer through LLM Residual Streams

arXiv cs.CR · 24 sept, 06:00

Investigadores demuestran que componentes comprometidos en tiempo de ejecución pueden inyectar información sensible en activaciones intermedias de LLMs dentro de entornos restringidos, permitiendo que un observador recupere datos no autorizados mediante un simple decodificador lineal. El ataque no requiere modificar pesos del modelo ni controlar los procesos de grabación o transferencia, afectando a modelos de once familias arquitectónicas con tasa de recuperación del 91-100%, mientras que los detectores actuales son inefectivos.