PrivDrift: Auditing User-Secret Leakage Under Topic Drift in Active LLM Conversations

arXiv cs.AI · 25 sept, 06:00

Un nuevo estudio presenta PrivDrift, un benchmark para auditar la fuga de secretos de usuario en conversaciones activas con modelos de lenguaje. Los investigadores demuestran que información sensible divulgada en el chat puede recuperarse incluso después de cambios de tema, con tasas de fuga entre 38,7% y 54,6% según el modelo. Este hallazgo sugiere que la privacidad en sistemas LLM persistentes es un defecto conductual que permanece más allá del cambio temático y no debería evaluarse solo como memorización de datos de entrenamiento.