Cooldown Landmines: Cross-Tenant Interference Attacks on LLM Gateways

arXiv cs.CR · 6 oct, 06:00

Investigadores identifican dos ataques de interferencia entre arrendatarios en puertas de enlace LLM, explotando registros compartidos de cooldown en LiteLLM. Las solicitudes rechazadas por límites de RPM pueden redirigir a otros arrendatarios a fallbacks innecesarios, y el tráfico admitido puede crear registros de cooldown que persisten tras recuperación de backends.