arXiv ID:
2606.10504
arXiv 提交日期: 2026-06-09
无需配对数据的跨模态知识蒸馏:理论基础与算法 / Cross-Modal Knowledge Distillation without Paired Data: Theoretical Foundation and Algorithm
1️⃣ 一句话总结
本文提出了一种新的跨模态知识蒸馏方法,不需要昂贵的配对数据,而是通过对齐不同模态数据的整体分布(特征对齐和标签对齐)来让教师模型(如图像模型)有效地指导学生模型(如文本或音频模型),在多种场景下都显著优于以往的方法。