Jumping the Line: Exploiting Length Predictions in LLM Scheduling

arXiv cs.AI · 5 oct, 06:00

Investigadores presentan JIL, un ataque contra planificadores de solicitudes en servidores LLM que explotan las predicciones de longitud de salida para obtener mayor prioridad y reducir el tiempo de completitud. El ataque manipula señales de programación mediante un sufijo adversarial que engaña a los predictores ligeros de longitud, logrando reducciones de hasta 83,4% en las longitudes predichas y acelerar solicitudes maliciosas hasta 1,53 veces respecto al promedio.