通过源语言屏蔽更新缓解大语言模型目标语言适应中的灾难性遗忘 / Mitigating Catastrophic Forgetting in Target Language Adaptation of LLMs via Source-Shielded Updates
1️⃣ 一句话总结
这篇论文提出了一种名为‘源语言屏蔽更新’的新方法,它通过智能地识别并保护大语言模型中与源语言能力相关的关键参数,在仅使用无标注目标语言数据进行模型适应时,有效防止了模型忘记原有知识,同时保持了在新语言上的优秀表现。