LENS: The Sum Is Worse Than the Parts for Set-Level Poisoning in Retrieval-Augmented Generation

arXiv cs.CR · 29 sept, 06:00

Un estudio de arXiv presenta LENS, un framework que demuestra una vulnerabilidad en sistemas de generación aumentada por recuperación (RAG): documentos individualmente inofensivos pueden coordinarse para manipular la salida del modelo cuando se procesan juntos. El ataque logra una tasa de éxito del 85,2% en el conjunto completo frente al 6,9% en subconjuntos, exponiendo un vector de ataque previamente subestimado en la composición de evidencia.