arXiv ID:
2604.24717
arXiv 提交日期: 2026-04-27
学习旋转:面向序列建模的时间与语义旋转编码 / Learning to Rotate: Temporal and Semantic Rotary Encoding for Sequential Modeling
1️⃣ 一句话总结
本文提出一种新方法,将Transformer中原本固定不变的旋转位置编码(RoPE)改造为可学习的、由输入信号动态驱动的旋转空间,通过引入一个双分支神经网络(SIREN)来编码时间戳、周期模式和元数据等语义信息,从而在不增加太多计算负担的情况下显著提升推荐系统的排序与校准效果。