Divide and Doubt: Diverse Distributed Poisoning for Retrieval-Augmented Generation

arXiv cs.CR · 24 sept, 06:00

Investigadores presentan DnD (Divide and Doubt), un ataque de envenenamiento de corpus dirigido contra sistemas de generación aumentada por recuperación (RAG). La técnica distribuye el soporte para una respuesta maliciosa entre pasajes estilísticamente diversos y añade un pasaje que cuestiona la evidencia correcta, eludiendo defensas basadas en similitud y detección de conflictos. El ataque se evalúa en dos datasets de preguntas abiertas contra tres LLMs y nueve configuraciones de RAG, demostrando efectividad comparable o superior a ataques previos, especialmente contra defensas avanzadas.