arXiv ID:
2605.25534
arXiv 提交日期: 2026-05-25
StructBreak:多模态大模型中的结构性认知过载导致的安全失效 / StructBreak: Structural Cognitive Overload-Induced Safety Failures in MLLMs
1️⃣ 一句话总结
本文发现多模态大模型在处理复杂结构信息时,会因为深度推理与安全对齐之间的冲突而产生一种名为“结构性认知过载”的现象,并据此开发出StructBreak框架——一种能在黑盒条件下自动生成攻击策略的方法,实验表明该方法可使模型生成有害内容的成功率高达97%,揭示了现有安全机制在复杂多模态推理场景中的严重不足。