arXiv ID:
2602.15814
arXiv 提交日期: 2026-02-17
Avey-B:一种高效的非自回归双向编码器 / Avey-B
1️⃣ 一句话总结
这篇论文将原本用于自回归任务的Avey模型改造成了一个高效的双向编码器Avey-B,通过引入参数分离、稳定性优化和神经压缩等新技术,使其在多项文本理解任务上的表现超越了传统的Transformer编码器,同时能更高效地处理长文本。