arXiv ID:
2602.14039
arXiv 提交日期: 2026-02-15
面向专家混合嵌入模型的几何保持聚合方法 / Geometry-Preserving Aggregation for Mixture-of-Experts Embedding Models
1️⃣ 一句话总结
这篇论文发现当前专家混合嵌入模型使用的线性聚合方法会扭曲向量的几何结构,导致性能下降,并提出了一种新的球形聚合方法来解决这个问题,在不增加训练成本的情况下提升了模型在多项任务上的表现。