Can Prompt Anonymity Protect Your Identity From LLM Providers?

arXiv cs.CR · 29 sept, 06:00

Un equipo de investigación demuestra que los mecanismos de anonimización de prompts para LLM no protegen adecuadamente la privacidad del usuario. Mediante PromptAnonBench, un benchmark con más de 175 000 prompts reales, muestran que los atacantes pueden re-identificar al menos el 50-75% de usuarios de SWE-Chat y hasta el 10% de WildChat utilizando embeddings de conversaciones históricas, incluso con defensas basadas en texto aplicadas. El hallazgo revela que la anonimización por sí sola es insuficiente para proteger la inferencia privada en LLM.