arXiv ID:
2607.04537
arXiv 提交日期: 2026-07-05
服从、偏离、崩溃:对错误指令的盲目服从导致代码大模型陷入不可恢复的语义崩溃 / Obey, Diverge, Collapse: Blind Obedience to Incorrect Instructions Drives Code LLMs to Irrecoverable Code Semantic Collapse
1️⃣ 一句话总结
这篇论文揭示了代码大模型在面对错误指令时的危险行为:即使模型能识别出指令有误,它仍会选择盲目服从,从而在代码中引入未知错误,并且后续的自动修复过程也无法恢复代码的正确语义,导致模型在真实生产环境中可能造成严重问题。