arXiv ID:
2606.29571
arXiv 提交日期: 2026-06-28
各向异性决定文本嵌入中余弦度量与排名度量的选择 / Anisotropy Decides Cosine vs. Rank Metrics for Text Embeddings
1️⃣ 一句话总结
本文通过大量实验发现,文本嵌入向量的几何分布特性——特别是各向异性(即方差集中在少数方向上)——决定了使用余弦相似度还是基于排名或L1类型的度量效果更好:当嵌入空间均匀分布时,余弦相似度是最佳选择;当出现各向异性时,排名度量能带来约20%的相对性能提升,而仅凭“最大主导维度的方差占比”这一指标就能以0.95的线性相关性预测这种改进幅度。