Poisoning the Neighborhood: A Topology-Aware Topic-Level Attack on Large-Scale HNSW-based RAG Systems

arXiv cs.CR · 16 oct, 06:00

Investigadores presentan un ataque de envenenamiento de datos diseñado para sistemas RAG a escala de despliegue que usan índices HNSW. El ataque explota la topología del grafo de búsqueda aproximada de vecinos más cercanos para posicionar documentos envenenados estratégicamente, logrando más del 72% de éxito de recuperación y un 31% de éxito de ataque en Wikipedia. Las defensas existentes no mitigan el ataque, exponiendo riesgos estructurales en sistemas RAG basados en HNSW.