Rethinking Quality in Large Language Model Routing: Security-Conditioned Model-and-Budget Selection

arXiv cs.AI · 14 oct, 06:00

Investigadores proponen SCRouter, un enrutador para sistemas de IA que elige qué modelo de lenguaje usar y cuántos tokens conceder según la consulta, equilibrando la utilidad (respuestas correctas) con la seguridad (resistencia a instrucciones maliciosas). El trabajo incluye SCRouterBench, un banco de pruebas con casi 39 000 consultas que evalúa el comportamiento de 12 modelos bajo 144 combinaciones diferentes de presupuesto de tokens.