Practical Secrets Extraction against Black-box LLMs

arXiv cs.CR · 30 sept, 06:00

Investigadores presentan un método para extraer secretos (credenciales y claves API) de modelos de lenguaje grandes comerciales accediendo solo a sus salidas, sin acceso a pesos ni probabilidades de tokens. El framework combina destilación de conocimiento con validación cruzada y muestreo guiado, logrando recuperar credenciales reales de sistemas LLM desplegados independientemente de OpenAI y Claude Code. El trabajo demuestra que los secretos memorizados durante el entrenamiento pueden exponerse incluso bajo acceso de solo-salida.