arXiv ID:
2602.05735
arXiv 提交日期: 2026-02-05
CSRv2:解锁超稀疏嵌入 / CSRv2: Unlocking Ultra-Sparse Embeddings
1️⃣ 一句话总结
这篇论文提出了一种名为CSRv2的新训练方法,它通过渐进式稀疏度调整和改进的训练目标,成功解决了现有稀疏嵌入技术在极端稀疏情况下性能大幅下降的问题,使得仅激活极少部分特征就能达到与高维稠密嵌入相当的性能,从而在保持高质量的同时,极大地提升了AI模型在存储、计算和推理速度上的效率。