📄 论文总结
ScaleDiff：用于生成高难度数学问题的扩展管道
ScaleDiff: A Scalable Pipeline for Generating High-Difficulty Math Problems
1️⃣ 一句话总结
ScaleDiff是一个通过自适应思维模型识别难题、训练专用生成器大规模生成新难题，并结合高效过滤机制来显著提升数学推理模型性能的创新方法。
2️⃣ 论文创新点
1. 自适应思维模型
- 创新点是什么：通过分析模型生成的首个token是否为'思考'标记，高效识别现有数据集中的难题，无需复杂提示或高成本API调用
- 与已有方法的区别/改进：替代了传统依赖失败率或人工评判的方法，显著降低了计算开销
- 为什么有意义：实现了难题的快速筛选，为后续生成提供高质量数据基础
2. 难题生成器DiffGen-8B
- 创新点是什么：基于筛选出的难题数据专门训练的生成模型，能够大规模生成新的高难度数学问题
- 与已有方法的区别/改进：消除了逐实例提示的需求，减少了API成本和操作复杂性
- 为什么有意义：支持大规模难题生成，促进模型在复杂推理任务上的性能提升
3. 两阶段解决方案过滤
- 创新点是什么：对生成的解决方案进行规则过滤和模型过滤两阶段处理，确保最终数据集的质量和有效性
- 与已有方法的区别/改进：规则过滤移除重复和冗长推理，模型过滤移除基础模型已能可靠解决的问题
- 为什么有意义：确保最终数据集的挑战性和训练价值，过滤掉约43%的初始样本
4. 成本效益高的教师模型利用
- 创新点是什么：使用较小的Qwen3-8B作为教师模型而非更大更贵的模型，实现了先进推理能力的有效迁移
- 与已有方法的区别/改进：降低了训练成本，同时保持了高性能
- 为什么有意义：证明了小模型在难题生成和推理能力传递中的潜力，为资源有限的研究提供可行方案
3️⃣ 主要结果与价值
实验结果亮点
- 在多个数学推理基准测试中表现优异，平均准确率达65.9%，超越其他强基线模型
- 观察到性能随难题数量增加而提升的缩放现象，即使增强数据规模达到原始数据集两倍时，性能增益仍未饱和
- 消融研究验证了难题识别和响应过滤两个关键模块的重要性
- 生成的难题需要更长的推理链，比原始难题具有更高的内在复杂性
实际应用价值
- 为数学推理模型的训练提供了高质量、大规模的数据增强方案
- 降低了高难度数学问题生成的计算成本，使资源有限的研究团队也能开展相关工作
- 证明了针对复杂推理任务的扩展性数据增强具有持续有效性
- 为其他领域的复杂推理任务提供了可借鉴的方法论
4️⃣ 术语表
- ScaleDiff：一个用于扩展高难度数学问题生成的管道，包括难题识别和生成组件，通过识别难题、生成新难题和过滤解决方案来提升模型复杂推理能力
- DiffGen-8B：专门训练用于生成高难度数学问题的模型，基于筛选的难题数据，约88%生成问题被验证为难题
- AdaptThink：通过首token判断问题难度的自适应思维模型，高效识别现有数据集中的难题
- ScaleDiff-Math：包含170万问题-解决方案对的最终训练数据集，由原始数据集和生成的DDiffGen数据集合并而成
- DDiffGen：最终的问题-解决方案数据集，通过两阶段过滤过程从PDiffGen中提炼得到
- Pass@1：评估模型性能的主要指标，表示模型第一次尝试就给出正确答案的概率
- LRMs：大型推理模型，在复杂推理至关重要的领域中需要加强