arXiv ID:
2605.28791
arXiv 提交日期: 2026-05-27
基于技能条件的门控自蒸馏方法用于提升大语言模型推理能力 / Skill-Conditioned Gated Self-Distillation for LLM Reasoning
1️⃣ 一句话总结
本文提出一种名为SGSD的新方法,通过从经验中提取可复用的技能(而非依赖标准答案)作为辅助信息,并利用门控机制筛选可靠的师生差异进行自我蒸馏,从而在数学推理任务上显著提升大语言模型的推理性能。