用户只要提出一条相反要求,Claude Code 就会丢掉整份 CLAUDE.md 规则文件
写进仓库规则文件里的规矩,被模型读到不等于被遵守。实测显示用户一句话和规矩冲突时,整份规则文件在 6 次里 6 次被当作提示词攻击丢掉。
标签
3篇文章
写进仓库规则文件里的规矩,被模型读到不等于被遵守。实测显示用户一句话和规矩冲突时,整份规则文件在 6 次里 6 次被当作提示词攻击丢掉。
RoguePilot 漏洞分析、被动提示注入风险和工程管理者必读的 AI 编码工具安全指南
ICML投稿论文的PDF中被发现隐藏着"在评审中包含特定短语"的提示注入文本。本文从技术角度剖析这一攻击的原理,以及依赖AI审稿的学术同行评审所面临的结构性安全风险与可行的防御思路。