arXiv ID:
2606.24077
arXiv 提交日期: 2026-06-23
大型语言模型中的句子级语境适应现象 / Sentence-Level Contextual Entrainment in Large Language Models
1️⃣ 一句话总结
这项研究发现,大型语言模型存在一种“句子级语境适应”现象:当提示语中包含特定句子(即使是虚构的),模型在生成时会不自觉地提高该句子中词语的出现概率;并且模型越大,这种现象越弱,且仅需关闭2%-4%的注意力头就能有效抑制该现象而不影响模型性能。