TraceGuard: Adaptive Multimodal Poison Filtering through Cross-Feature Rank Agreement

arXiv cs.CR · 25 sept, 06:00

TraceGuard es un método de filtrado adaptativo para detectar y eliminar datos envenenados en entrenamientos multimodales imagen-texto. El sistema utiliza acuerdo entre múltiples características a nivel de corpus para identificar ejemplos sospechosos sin necesidad de entrenar el modelo víctima, logrando remover el 98,4% de ejemplos envenenados manteniendo el 94,6% de datos limpios.