arXiv ID:
2606.29718
arXiv 提交日期: 2026-06-29
诊断与缓解长时搜索任务中的上下文退化现象 / Diagnosing and Mitigating Context Rot in Long-horizon Search
1️⃣ 一句话总结
本文发现大语言模型在处理长篇幅上下文时会出现‘上下文退化’现象——模型会过早放弃或给出不确定答案,且上下文越长问题越严重;作者通过剪枝实验揭示了上下文积累与退化的关系,并提出了上下文管理和拒绝采样两种缓解策略,其中基于退化感知的过滤方法能有效提升模型表现。