arXiv ID:
2602.03216
arXiv 提交日期: 2026-02-03
令牌稀疏注意力:通过交错令牌选择实现高效的长上下文推理 / Token Sparse Attention: Efficient Long-Context Inference with Interleaved Token Selection
1️⃣ 一句话总结
这篇论文提出了一种名为‘令牌稀疏注意力’的新方法,它通过动态、轻量地筛选出每个注意力头中重要的令牌来压缩计算,从而在保持模型准确率的同时,显著提升了处理超长文本时的推理速度。