The Privacy Fallacy of Crowdsourced Fine-Tuning: Extracting Proprietary Data via Topic-Based Poisoning

arXiv cs.CR · 29 sept, 06:00

Investigadores demuestran que usuarios maliciosos pueden envenenar una fracción pequeña de datos en procesos de fine-tuning por crowdsourcing para amplificar la extracción de instrucciones propietarias de otros usuarios. Con solo 50 ejemplos envenenados, la extracción de datos casi verbatim aumenta hasta 3,71× en Qwen2.5-14B, y los métodos de filtrado de datos existentes detectan menos de la mitad de estas muestras maliciosas.