标签： 概念验证

让 AI 编码代理扫描开源代码中的安全漏洞，它可能会在你的机器上运行攻击者的代码。这是 AI Now Institute 周三发布的一项概念验证（PoC）研究的发现，该攻击被称为”Friendly Fire”（友军误伤）。当 Anthropic 的 Claude Code 和 OpenAI 的 Codex 以自主模式运行时，攻击便会生效，该模式会自主批准代理自身发出的命令。