arXiv ID:
2606.25605
arXiv 提交日期: 2026-06-24
开源大模型中的约束税:结构化输出约束下工具调用抑制的实证研究 / Constraint Tax in Open-Weight LLMs: An Empirical Study of Tool Calling Suppression Under Structured Output Constraints
1️⃣ 一句话总结
这篇论文发现,当同时要求大语言模型调用工具和生成符合特定格式(如JSON Schema)的结构化输出时,许多模型会“罢工”不调用工具,原因是格式约束在解码时屏蔽了工具调用的令牌,作者提出了一种无需重新训练模型的“两阶段执行”策略来恢复工具的正常使用。