RAG-NAROK: Retrieval-Aware Knowledge Corpus Poisoning in RAG with Source-specific Refutation

arXiv cs.AI · 23 sept, 06:00

RAG-NAROK es una nueva técnica de ataque contra sistemas RAG (Retrieval-Augmented Generation) que adapta documentos adversariales en tiempo de consulta, explotando la transparencia de la arquitectura para identificar fuentes legítimas y generar refutaciones específicas que manipulan la generación del LLM. El ataque demuestra vulnerabilidades fundamentales en el diseño de sistemas RAG que priorizan la transparencia, revelando cómo la confianza en fuentes recuperadas puede ser socavada por inyecciones de contenido malicioso.