False Floors: LLM Safety Routing Evaluations Break Under Distribution Shift

arXiv cs.CR · 2 oct, 06:00

Un estudio en arXiv revela que los benchmarks de evaluación de safety routers en grandes modelos de lenguaje producen resultados engañosos debido a la selección del modelo comparador sobre los datos de evaluación. Bajo distribuciones diferentes (held-out categories), el sesgo de selección asciende a 0.045-0.113 de daño en HELM Safety y hasta 7-9 veces mayor en AgentDojo, comparable o superior al beneficio atribuido al routing mismo. Los investigadores también demuestran que la defensa basada en reconocimiento es vulnerable a ataques de inyección tardía donde un atacante reduce el reconocimiento de GPT-5.4 en 19.6 puntos.