arXiv ID:
2602.22911
arXiv 提交日期: 2026-02-26
NoRA:通过流形扩展打破低秩适应的线性天花板 / NoRA: Breaking the Linear Ceiling of Low-Rank Adaptation via Manifold Expansion
1️⃣ 一句话总结
这篇论文提出了一种名为NoRA的非线性低秩适应方法,通过引入SiLU门控和结构化丢弃来扩展模型表示能力,成功突破了传统LoRA方法在复杂推理任务中性能随参数增加而停滞的线性瓶颈,用更少的参数取得了更好的效果。