FragToken: Amplifying LLM Inference Costs through Noncanonical Token Generation

arXiv cs.CR · 28 sept, 06:00

FragToken es una técnica de ataque que amplifica los costes de inferencia de LLMs mediante la generación de secuencias de tokens no canónicas: aunque el texto decodificado permanece similar, el modelo genera internamente muchos más pasos de decodificación autoregresivo, aumentando el consumo de recursos sin que sea fácil detectarlo. Los investigadores demostraron que esta cadena de suministro puede incrementar el número de tokens entre 1,99 y 2,46 veces mientras preserva la utilidad del modelo, lo que representa una nueva superficie de ataque de consumo de recursos contra proveedores de LLM.