Localize-and-Detect: Auditing Task-Level Poisoning in Instruction-Tuned Models

arXiv cs.CR · 6 oct, 06:00

Investigadores presentan Localize-and-Detect, un método de auditoría que detecta envenenamientos a nivel de tarea en modelos de lenguaje fine-tuned sin requerir triggers explícitos. El ataque manipula modelos entrenados en pares instrucción-respuesta para producir contenido sesgado en tareas específicas. El método opera como caja negra y localiza primero la tarea objetivo comparando distribuciones de tokens, luego identifica contenido sesgado repetido.