arXiv ID:
2605.19729
LIFT与PLACE:面向轻量级扩散模型的简单、稳定且有效的知识蒸馏框架 / LIFT and PLACE: A Simple, Stable, and Effective Knowledge Distillation Framework for Lightweight Diffusion Models
1️⃣ 一句话总结
本文提出了一种名为LIFT和PLACE的知识蒸馏方法,通过将复杂的教师模型去噪过程拆解为“粗对齐”和“细精炼”两步,并引入基于误差分组的局部自适应指导,使得参数量仅为教师模型1.6%的轻量学生模型也能稳定训练并取得出色效果。