arXiv ID:
2510.14211
arXiv 提交日期: 2025-10-16
LiteStage:面向多阶段推理的延迟感知层跳过方法 / LiteStage: Latency-aware Layer Skipping for Multi-stage Reasoning
1️⃣ 一句话总结
这篇论文提出了一种名为LiteStage的智能加速方法,通过动态跳过语言模型的部分计算层和提前终止冗余输出生成,在保证推理准确性的同时显著提升了多阶段问题解答的速度。