arXiv ID:
2607.05029
arXiv 提交日期: 2026-07-06
你的智能体记忆并非其所独有:针对LLM智能体记忆的伪造推理攻击及防御 / Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses
1️⃣ 一句话总结
本文提出一种名为FARMA的新型攻击方法,通过向大语言模型智能体的记忆系统中注入伪造的推理过程(而非事实数据),利用逃避关键词检测和自引用强化等手段绕开现有防御,并设计了SENTINEL多层防御管线,其核心组件“推理护卫”通过五项加权信号结构性地分析候选记忆条目,实验表明FARMA在无防御下攻击成功率可达100%,而SENTINEL可将其降至0%且无误报,揭示了保护智能体推理历史完整性的重要性。