arXiv ID:
2605.20533
arXiv 提交日期: 2026-05-19
Ada2MS:一种基于逐元素与全局二阶矩估计指数混合的混合优化算法 / Ada2MS: A Hybrid Optimization Algorithm Based on Exponential Mixing of Elementwise and Global Second-Moment Estimates
1️⃣ 一句话总结
本文提出了一种名为Ada2MS的新型优化算法,它通过指数方式混合逐元素和全局的梯度二阶矩估计,在AdamW的稳定鲁棒与动量SGD的强泛化能力之间取得平滑平衡,并在视觉任务上展现出有竞争力的性能。