arXiv ID:
2602.09509
arXiv 提交日期: 2026-02-10
超越学生:一种用于神经网络继承的非对称网络 / Beyond Student: An Asymmetric Network for Neural Network Inheritance
1️⃣ 一句话总结
这篇论文提出了一种名为InherNet的新方法,它通过非对称低秩分解直接继承大型教师网络的结构和核心知识,从而构建出比传统知识蒸馏方法性能更强、参数更少的轻量级网络。