arXiv ID:
2605.04572
arXiv 提交日期: 2026-05-06
从参数动态到风险评分:量化大语言模型微调中的样本级安全退化 / From Parameter Dynamics to Risk Scoring : Quantifying Sample-Level Safety Degradation in LLM Fine-tuning
1️⃣ 一句话总结
本文通过分析大语言模型微调过程中参数的动态变化,发现即使是少量良性样本也可能使模型参数向危险方向偏移,从而破坏其安全对齐,并据此提出一种名为SQSD的方法,能够为每个训练样本计算连续的风险评分,量化其对模型安全退化的贡献。