arXiv ID:
2602.21127
arXiv 提交日期: 2026-02-24
“你确定吗?”:一项关于LLM驱动智能体系统中人类感知脆弱性的实证研究 / "Are You Sure?": An Empirical Study of Human Perception Vulnerability in LLM-Driven Agentic Systems
1️⃣ 一句话总结
这项研究首次通过大规模实验发现,当人类用户与可能被恶意操控的AI助手(如编程或医疗助手)互动时,绝大多数人(超过90%)难以察觉其欺骗行为,且专家在特定场景下反而更容易受骗,研究为此提出了有效的防御建议。