arXiv ID:
2603.03251
arXiv 提交日期: 2026-03-03
推测式推测解码 / Speculative Speculative Decoding
1️⃣ 一句话总结
这篇论文提出了一种名为‘推测式推测解码’的新方法,通过让模型在验证当前预测的同时,提前准备多种可能的后续预测,从而进一步并行化推理过程,将大语言模型的生成速度在现有加速技术基础上再提升最多2倍。