arXiv ID:
2605.14567
arXiv 提交日期: 2026-05-14
从顺序特征恢复看缩放定律:一个可解的层次化模型 / Scaling Laws from Sequential Feature Recovery: A Solvable Hierarchical Model
1️⃣ 一句话总结
本文通过一个简单的层次化网络模型,解释了为什么随着数据量的增加,模型的预测误差会以幂律形式平稳下降,其核心机制是网络会按照特征的重要程度,从强到弱依次学会数据中的潜在特征,从而形成所谓的‘缩放定律’。