arXiv ID:
2508.19228
arXiv 提交日期: 2025-08-26
预测未来令牌顺序改进语言建模 / Predicting the Order of Upcoming Tokens Improves Language Modeling
1️⃣ 一句话总结
这篇论文提出了一种名为令牌顺序预测的新训练方法,通过让模型学习排列未来词汇的顺序而非直接预测具体词汇,在多个标准测试中显著提升了语言模型的性能,且比现有方法更高效。