Planner-as-Router: Joint Plan-Time Model Routing for Cost-Efficient Multi-Agent Workflows

arXiv cs.AI · 29 sept, 06:00

Un equipo de investigación presenta Planner-as-Router (PaR), una técnica que optimiza el coste de ejecución de agentes basados en modelos de lenguaje (LLM) en producción. En lugar de asignar modelos por cada tarea, PaR integra la selección del modelo en la fase de planificación, viendo el flujo de trabajo completo de antemano para balancear precisión y coste. Los autores evalúan su enfoque con EntBench, un conjunto de 54 tareas empresariales, logrando reducir costes un 44% respecto a usar siempre modelos frontier con una pérdida de precisión de 2,9 puntos.