arXiv ID:
2607.08027
arXiv 提交日期: 2026-07-09
基于幂变换与保符号分数聚合及自适应特征保留的结构化大语言模型剪枝方法 / Structured Pruning of Large Language Models via Power Transformation and Sign-Preserving Score Aggregation with Adaptive Feature Retention
1️⃣ 一句话总结
本文提出一种改进的结构化剪枝方法,通过幂变换统一不同剪枝分数分布、保留符号信息聚合评分,并排除异常值干扰,从而将原本用于非结构化剪枝的自适应特征保留技术成功迁移到结构化剪枝中,在保持模型准确率的同时实现实际推理加速。