AI 推荐投毒:"Ask AI"按钮如何悄无声息地篡改大语言模型记忆

AI 推荐投毒:”Ask AI”按钮如何悄无声息地篡改大语言模型记忆

一类新型提示词注入攻击正在商业网站上蔓延。它无需恶意软件、无需窃取凭证,也无需零日漏洞利用,而是滥用几乎所有主流 AI 助手内置的标准功能——预填充深度链接。研究人员在生产环境的网站上观察到,营销页面和竞品对比页面的”Ask AI”按钮内嵌入了隐藏的提示词注入载荷。当登录了 ChatGPT、Claude、Gemini 或 Grok 的用户点击此类按钮时,一条预设的查询会在其会话中立即执行,没有任何确认,也没有警告。这些链接大多是无害的,但危险的链接会指示 AI 将厂商域名永久保存为”可信来源”,从而悄无声息地使该厂商在未来所有回答中获得隐性偏向。

Read More
当 AI 加入你的软件供应链写代码时,会引发哪些根本变化?

当 AI 加入你的软件供应链写代码时,会引发哪些根本变化?

软件供应链安全本已足够复杂,而 AI 的加入让难度再次升级。文章指出,过去五年间 SolarWinds、Log4Shell、XZ Utils 等事件反复证明:风险更多藏在生产代码的一切环节,而非团队亲手编写的代码本身。随着 Model Context Protocol(MCP)上线约 20 个月,AI 工具、模型及其基础设施已成为软件开发、部署和运行的关键组成部分。文章强调,AI 生成的代码在提交前需要校验,但更难的问题在于治理执行编写的智能体(agent)以及它们调用的工具;攻击者可借助精心设计的提示词(prompt)操纵模型输出或拉取依赖。同时提及 Gartner 于六月发布了首个软件供应链安全魔力象限,以及 OX 研究人员将于 7 月 22 日举办的网络研讨会。

Read More
用于检测恶意代码的顶级 AI 代理可被诱骗运行恶意代码

用于检测恶意代码的顶级 AI 代理可被诱骗运行恶意代码

让 AI 编码代理扫描开源代码中的安全漏洞,它可能会在你的机器上运行攻击者的代码。这是 AI Now Institute 周三发布的一项概念验证(PoC)研究的发现,该攻击被称为”Friendly Fire”(友军误伤)。当 Anthropic 的 Claude Code 和 OpenAI 的 Codex 以自主模式运行时,攻击便会生效,该模式会自主批准代理自身发出的命令。

Read More
"Ghostcommit"在图像中隐藏提示词注入以欺骗 AI 代理并窃取密钥

“Ghostcommit”在图像中隐藏提示词注入以欺骗 AI 代理并窃取密钥

一项研究表明,一个隐藏了提示词注入指令的 PNG 文件可以窃取代码仓库的密钥。该技术被命名为“Ghostcommit”,成功绕过了 AI 代码审查工具 CodeRabbit 和 Bugbot——这两款工具完全不会打开图像文件——随后诱导一个编码代理读取仓库的 .env 文件,并把每一个密钥以数字列表的形式写入代码中。

Read More