arXiv ID:
2607.08734
arXiv 提交日期: 2026-07-09
等同性的错觉:大型语言模型中量化效应的统计表征 / The Illusion of Equivalency: Statistical Characterization of Quantization Effects in LLMs
1️⃣ 一句话总结
本文发现,仅用准确率和困惑度评估量化后的大语言模型具有误导性,因为即使在任务性能看似不变的情况下,模型内部决策行为也会发生显著偏差,并揭示了注意力层中不同投影对量化的敏感度差异,从而呼吁引入更能反映行为变化的评估指标。