Everyone's a little bit racist: a novel ML backdoor attack in black-box mode

arXiv cs.CR · 19 oct, 06:00

Investigadores presentan Backdoor-as-a-Service, una técnica de ataque black-box contra modelos de aprendizaje automático que activa comportamientos latentes sin modificar el entrenamiento ni los pesos del modelo. El método utiliza búsqueda genética para descubrir transformaciones de entrada que producen cambios sistemáticos en la salida alineados con una tarea maliciosa, demostrándose en un clasificador MNIST y en un clasificador NSFW de producción.