arXiv ID:
2511.20626
arXiv 提交日期: 2025-11-25
ROOT:一种用于神经网络训练的鲁棒正交化优化器 / ROOT: Robust Orthogonalized Optimizer for Neural Network Training
1️⃣ 一句话总结
这篇论文提出了一种名为ROOT的新型优化器,它通过自适应正交化和抗噪机制,有效解决了大模型训练中的不稳定问题,在噪声环境下比现有优化器收敛更快、性能更好。