The TellTail of Embeddings: Fingerprinting Retrievers in Black-Box Systems

arXiv cs.CR · 6 oct, 06:00

Un equipo de investigadores presenta TellTail, un ataque de fingerprinting que permite identificar qué modelo de embedding utiliza un sistema RAG u otro retriever de texto, incluso cuando solo se exponen resultados finales. El ataque explota diferencias en el comportamiento de transferencia entre modelos para deducir la identidad del retriever mediante consultas cuidadosamente optimizadas.