The LLM-Attacker: A Unified Red-Team Framework for Privacy Evaluation of Split and Distributed LLM Systems

arXiv cs.CR · 19 oct, 06:00

LLM-Attacker es un framework de investigación que estandariza la evaluación de privacidad en sistemas de modelos de lenguaje distribuidos, permitiendo comparar y reproducir ataques de reconstrucción de texto a partir de representaciones intermedias. Los experimentos muestran que los gradientes de entrenamiento aumentan significativamente la recuperación de tokens y documentos completos.