arXiv ID:
2604.07955
arXiv 提交日期: 2026-04-09
重新思考基于补偿的大语言模型量化中的残差误差 / Rethinking Residual Errors in Compensation-based LLM Quantization
1️⃣ 一句话总结
这篇论文发现并修正了现有大语言模型量化方法中一个关键的校准目标偏差,通过将量化模型的输出更精确地对齐原始高精度模型,并引入“补偿感知误差”的概念,显著提升了量化性能。