arXiv ID:
2602.04294
arXiv 提交日期: 2026-02-04
少量示例如何影响基于提示的防御对抗大语言模型越狱攻击 / How Few-shot Demonstrations Affect Prompt-based Defenses Against LLM Jailbreak Attacks
1️⃣ 一句话总结
这项研究发现,在基于提示的防御策略中,加入少量示例对两种主流方法有截然相反的效果:它能通过强化角色认同来提升角色导向提示的防御能力,却会因分散注意力而削弱任务导向提示的防御效果。