AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes

arXiv cs.AI · 14 oct, 06:00

Un estudio en arXiv demuestra que los modelos generativos de recomendación basados en decodificación autoregresiva son vulnerables al envenenamiento de datos dirigido. Los investigadores muestran que inyectar menos del 1% de interacciones sintéticas maliciosas puede aumentar significativamente la probabilidad de promover objetivos maliciosos, y desarrollan AlignPoison, un marco que descubre y explota estas vulnerabilidades mediante prefijos alineados con el contexto.