Walking the Embedding Space: Datastore Extraction from Multimodal RAG

arXiv cs.CR · 2 oct, 06:00

Investigadores presentan ImMRAG, un ataque automático de extracción de datos contra sistemas de Generación Aumentada por Recuperación Multimodal (MRAG) que devuelven imágenes. El ataque incrusta instrucciones maliciosas en imágenes proporcionadas por el usuario y mediante muestreo adaptativo navega por el espacio de embeddings para extraer datos privados del datastore del sistema, recuperando cientos de imágenes médicas, documentos y otros contenidos sensibles con solo 2500 consultas.