arXiv ID:
2604.19440
arXiv 提交日期: 2026-04-21
是什么让大语言模型成为好的优化器?——大语言模型引导的进化搜索轨迹分析 / What Makes an LLM a Good Optimizer? A Trajectory Analysis of LLM-Guided Evolutionary Search
1️⃣ 一句话总结
本文通过分析15种大语言模型在8个任务中的优化轨迹,发现好的LLM优化器像局部工匠,倾向于在解的语义空间中进行小而频繁的改进,而差的优化器则容易东一榔头西一棒子、偶尔碰对但总体停滞不前,并且单纯追求新颖性并无帮助,只有保持搜索集中在优秀区域附近时,新颖性才是有用的。