arXiv ID:
2604.05267
arXiv 提交日期: 2026-04-07
基于MoE的大语言模型中是否存在领域专家? / Do Domain-specific Experts exist in MoE-based LLMs?
1️⃣ 一句话总结
这篇论文通过实证研究发现,基于混合专家架构的大语言模型中确实存在专注于特定领域的专家,并在此基础上提出了一种无需额外训练或推理成本的领域导向框架,有效提升了模型在目标和非目标领域的性能。