High-quality Data Do not Mean Safe! Poisoning LLMs after Data Selection

arXiv cs.CR · 2 oct, 06:00

Investigadores demuestran que los LLMs alineados en seguridad siguen siendo vulnerables al envenenamiento de datos incluso cuando se aplican filtros de calidad en los datos de entrenamiento. El ataque Bi-QSTO optimiza muestras maliciosas para parecer de alta calidad y así evadir los sistemas de selección, manteniendo su capacidad de degradar la alineación de seguridad del modelo.