arXiv ID:
2607.08186
arXiv 提交日期: 2026-07-09
隐式解码扩展:面向大型语言模型的潜在计算扩展方法 / Hidden Decoding at Scale: Latent Computation Scaling for Large Language Models
1️⃣ 一句话总结
该论文提出了一种名为“隐式解码”的新方法,通过在输入序列长度维度上为每个token扩展出多个并行计算流(而非增加模型层数或宽度),并结合高效的流式注意力机制,使得现有的大型语言模型在无需重新预训练的情况下,能够显著提升性能,首次在千亿参数级模型上验证了这种扩展路径的可行性。