Visual Memory Attacks Can Persist Through The KV Cache

arXiv cs.CR · 8 oct, 06:00

Investigadores demuestran que ataques adversariales contra modelos de lenguaje multimodales pueden persistir a través de la caché KV (key/value), influyendo en el comportamiento del modelo incluso después de que la entrada maliciosa se elimine del contexto. El ataque de Persistent Visual Memory Injection (P-VMI) optimiza imágenes maliciosas para mantener su efecto backdoor durante conversaciones largas, logrando una tasa de éxito de aproximadamente el 90% en Qwen3-VL-8B-Instruct.