arXiv ID:
2605.30736
arXiv 提交日期: 2026-05-29
OrcaRouter:一种面向生产环境的混合离线-在线学习的大语言模型路由器 / OrcaRouter: A Production-Oriented LLM Router with Hybrid Offline-Online Learning
1️⃣ 一句话总结
本文提出了一种名为OrcaRouter的智能模型选择系统,它能根据用户输入的请求,自动从多个不同能力和成本的大语言模型中挑选最合适的一个来回答,通过结合历史数据预训练和实时在线学习,在保证高准确率的同时大幅降低推理成本。