Microsoft、Salesforce修复AI代理数据泄露漏洞

“AI革命”中让安全专业人员夜不能寐的一个方面是持续存在的提示注入攻击，这种攻击能够窃取敏感数据——即使是对微软和Salesforce这样的主流厂商也不例外。Capsule Security是一家销售AI代理运行时安全产品的供应商，今天发布了关于Salesforce Agentforce和Microsoft Copilot提示注入漏洞的研究报告。虽然这两个漏洞都已被修复，但该研究提醒我们，提示注入对于大型语言模型（LLMs）来说仍然是一个尚未解决的问题。

在Salesforce漏洞案例中，Capsule称之为”PipeLeak”，攻击者可以在不受信任的潜在客户捕获表单中插入恶意指令，而Salesforce代理会将这些指令解释为可信提示。该表单是一个面向公众的客户关系管理（CRM）表单，潜在客户可能在Salesforce客户的网站上使用。在一个示例提示中，Capsule指示代理发送其能找到的所有潜在客户。该指令中也没有复杂的代码或漏洞利用——仅仅是一个简单的注入。

来源: Dark Reading