arXiv ID:
2605.28592
arXiv 提交日期: 2026-05-27
自注意力机制视角下的偏最小二乘法 / PLS in the Mirror of Self-Attention
1️⃣ 一句话总结
本文发现偏最小二乘法(PLS)可以看作是一种线性化的自注意力机制,从而将PLS融入神经网络框架进行分析,同时指出PLS中的降维和预测因子选择特性,暗示了自注意力机制本身也包含一定程度的维度规范化,有助于提升学习效果。