arXiv ID:
2509.04664
语言模型为何会产生幻觉 / Why Language Models Hallucinate
1️⃣ 一句话总结
这篇论文指出,语言模型产生幻觉是因为训练和评估过程鼓励模型在不确定时猜测答案,而不是承认不确定性,这源于统计分类错误和现有评测标准对猜测行为的奖励。
语言模型为何会产生幻觉 / Why Language Models Hallucinate
这篇论文指出,语言模型产生幻觉是因为训练和评估过程鼓励模型在不确定时猜测答案,而不是承认不确定性,这源于统计分类错误和现有评测标准对猜测行为的奖励。
Delta激活:一种用于微调后大语言模型的表示方法 / Delta Activations: A Representation for Finetuned Large Language Models
本文提出了一种名为Delta激活的新方法,通过测量微调后模型与基础模型内部激活的差异来生成向量表示,从而帮助有效分类和比较不同任务及领域的微调模型,促进模型复用。
逆向IFEval:大语言模型能否忘记顽固的训练惯例以遵循真实指令? / Inverse IFEval: Can LLMs Unlearn Stubborn Training Conventions to Follow Real Instructions?
这篇论文提出了一个名为逆向IFEval的新基准测试,用于评估大语言模型在遇到与训练模式相冲突的反常指令时,能否克服固有偏见并正确执行任务,从而揭示其在非常规场景下的适应能力不足问题。
基于基准测试的大语言模型评估的鲁棒性与可靠性研究 / On Robustness and Reliability of Benchmark-Based Evaluation of LLMs
这篇论文通过系统测试发现,尽管大语言模型在基准测试中的排名相对稳定,但面对同一问题的不同表述时,其绝对性能会显著下降,这表明当前基于固定格式基准测试的评估方法可能无法准确反映模型在真实多变场景下的实际能力。
虚假的安全感:为何基于探测的恶意输入检测方法难以泛化 / False Sense of Security: Why Probing-based Malicious Input Detection Fails to Generalize
这篇论文指出,当前基于探测的大语言模型恶意输入检测方法实际上只学会了识别表面的指令模式和触发词,而非真正理解语义上的危害性,导致其在新场景下表现不佳,揭示了这类方法存在的泛化能力缺陷。
废话学:用深度解读无意义内容挑战大语言模型 / Drivel-ology: Challenging LLMs with Interpreting Nonsense with Depth
这篇论文提出了‘废话学’概念,指那些语法通顺但含义矛盾或隐含深意的表达,并通过构建多语言数据集证明当前大语言模型难以理解这类文本的深层语义,揭示了模型在语用理解上的局限性。
绘画比思考更容易:文本到图像模型能搭建舞台,但不能导演戏剧吗? / Easier Painting Than Thinking: Can Text-to-Image Models Set the Stage, but Not Direct the Play?
这篇论文提出了一个更全面的新基准T2I-CoReBench,用于评估文本生成图像模型,发现当前模型在复杂场景中构图能力有限,而根据文字提示进行逻辑推理的能力更差,是制约其发展的关键瓶颈。
大型语言模型的行为指纹识别 / Behavioral Fingerprinting of Large Language Models
这篇论文提出了一种新的‘行为指纹’框架,通过分析模型在互动中的固有风格,揭示了不同大语言模型在核心推理能力趋于一致的同时,其迎合性、语义鲁棒性等互动行为却因开发者的对齐策略而存在显著差异。
面向可信度的上下文工程:混合与不当上下文下的Rescorla-Wagner引导 / Context Engineering for Trustworthiness: Rescorla Wagner Steering Under Mixed and Inappropriate Contexts
这项研究揭示了大型语言模型在处理混合上下文时容易受到少量不当内容影响的脆弱性,并提出了一种基于神经科学模型的微调方法,能有效引导模型忽略有害信息,显著提升回答质量和安全性。
C-DiffDet+:融合全局场景上下文与生成去噪的高保真汽车损伤检测 / C-DiffDet+: Fusing Global Scene Context with Generative Denoising for High-Fidelity Car Damage Detection
这篇论文提出了一种结合全局场景信息与局部特征的新方法,通过上下文感知融合技术显著提升了汽车损伤检测的准确性,在复杂视觉任务中超越了现有最佳模型。
请先 登录 后再提交论文