arXiv ID:
2602.08302
arXiv 提交日期: 2026-02-09
逻辑回归线性模型中的顿悟现象研究 / Grokking in Linear Models for Logistic Regression
1️⃣ 一句话总结
这篇论文发现,即使是最简单的线性逻辑回归模型,在特定测试数据(如集中于分类边界附近或对抗性数据)下也会出现‘顿悟’现象,即模型在训练后期才突然学会泛化,并揭示这种现象源于梯度下降的内在偏好和数据分布的不对称性,而非深度神经网络所独有。