arXiv ID:
2605.23603
Preisach注意力:一种基于迟滞效应的序列记忆模型 / Preisach Attention: A Hysteretic Model of Sequential Memory
1️⃣ 一句话总结
本文提出了一种名为Preisach注意力层的新型神经网络结构,它用物理中的迟滞算子替代了传统Transformer中的注意力机制,通过记忆输入序列的局部极值来实现高效计算,在处理长序列和对位置不敏感的任务上比标准Transformer更快、更具理论优势。