arXiv ID:
2605.28819
arXiv 提交日期: 2026-05-27
PEFT-Arena:从稳定性-可塑性视角理解参数高效微调 / PEFT-Arena: Understanding Parameter-Efficient Finetuning from a Stability-Plasticity Perspective
1️⃣ 一句话总结
本文提出一个名为PEFT-Arena的评估框架,从“稳定性(保留预训练能力)与可塑性(适应新任务)的权衡”角度,系统比较了多种参数高效微调方法,发现正交微调方法能在两者之间取得最佳平衡,并通过权重空间和激活空间的分析揭示了不同方法产生性能差异的几何原因。