arXiv ID:
2606.03465
arXiv 提交日期: 2026-06-02
重新思考张量分解在后训练大语言模型压缩中的作用 / Rethinking the Role of Tensor Decompositions in Post-Training LLM Compression
1️⃣ 一句话总结
这篇论文系统评估了张量分解方法在压缩大语言模型(包括稠密和混合专家架构)中的效果,发现这些方法假设的共享子空间与现代LLM学到的异构表示之间存在根本性不匹配,从而揭示了其在实际大规模部署中的性能极限和适用边界。