Similarity Is Not Validity: Defending LLM Semantic Caches Against Poisoning

arXiv cs.CR · 30 sept, 06:00

Investigadores proponen una defensa contra el envenenamiento de cachés semánticos en LLMs, que explotan la brecha entre la similitud de embeddings y la validez de las respuestas. Los atacantes inyectan respuestas maliciosas bajo consultas con alta similitud coseno a peticiones benignas. La solución utiliza técnicas de análisis textual (Deletion Gain y Answer Check) para detectar contenido residual malicioso, bloqueando entre el 82% y el 98,2% de entradas envenenadas con una tasa de falsos positivos del 5%.