arXiv ID:
2604.04356
arXiv 提交日期: 2026-04-06
REAM:通过合并改进大型语言模型中专家的剪枝 / REAM: Merging Improves Pruning of Experts in LLMs
1️⃣ 一句话总结
这篇论文提出了一种名为REAM的新方法,它通过智能地分组和合并大型混合专家模型中的专家权重来压缩模型,相比直接剪枝专家,能更好地保持模型在各种任务上的原始性能。