微软的人工智能“召回”功能引发了安全、隐私问题

西部数码

(来源:Andreas Prott – stock.adobe.com) 微软周一公布了其人工智能优化的Copilot+ PC,包括一项新功能,该新功能引起了一些安全专家的担忧。 …

(来源:Andreas Prott – stock.adobe.com)

(来源:Andreas Prott – stock.adobe.com)

微软周一公布了其人工智能优化的Copilot+ PC,包括一项新功能,该新功能引起了一些安全专家的担忧。

Copilot+ PC将附带一个名为“回忆”功能的预览版本,微软表示,该功能旨在让您感觉拥有您在PC上查看的所有内容的“照片存储器”。

召回每隔几秒钟拍摄一次用户活动屏幕的“快照”,然后使用户能够在时间线或通过搜索查看他们的活动,以找到他们之前查看过的网页、应用程序或文件。

微软的博客表示,该功能将帮助用户快速找到他们之前查看的内容,而无需挖掘网站、文件或“数百封电子邮件”来查找它。

在《华尔街日报》对微软首席执行官Satya Nadella的采访中演示了该功能,展示了如何使用PC内置的人工智能模型来使用自然语言查询搜索照片等内容。

微软关于召回功能的常见问题指出,它“不会执行内容审核”和“不会隐藏密码或财务帐号等信息”,这引起了许多人的担忧,即通过快照随时获得的敏感数据可能会落入威胁行为者手中。

该功能也与“间谍软件”进行了比较,因为它持续监控用户的计算机活动。

“微软的召回功能引发了一些警报,包括可能捕获和存储详细和敏感信息的安全风险,以及对侵犯隐私的担忧。零信任网络安全提供商Keeper Security的安全与架构副总裁Patrick Tiquet告诉SC Media,“在没有适当安全协议的情况下存储敏感信息的潜力,会使您的网络安全甚至身份面临风险。”

该功能的批评者在社交媒体上直言不讳,包括网络安全领域的突出声音。

“感谢微软,感谢您为启用恶意黑客提供服务,”微软安全研究员、前高级威胁情报分析师Kevin Beaumont在X上写道,该功能为未来的“CoPilot Recall恶意软件”奠定了基础,它窃取了您在已经组装的数据库中输入或查看过的所有内容。”

网络安全巨头Malwarebytes也参与了这一争议,对X发表了评论,如“内置键盘记录器是一个地狱般的功能”和“当你可以拥有人工智能时,谁需要隐私?”

安全、隐私专家对“侵入性”的人工智能召回功能持谨慎

根据微软的常见问题解答,召回拍摄的快照存储在PC的硬盘上,并受到数据加密保护,但这不一定阻止它们免受具有特权远程访问的威胁行为者的注意。

根据常见问题解答,微软还允许用户完全禁用召回功能或阻止其拍摄某些网站或应用程序的快照,并且不会在Microsoft Edge或数字版权管理(DRM)受保护的材料上拍摄InPrivate浏览会话的快照。

数据安全和隐私合规公司Zendata的首席执行官Narayana Pappu告诉SC Media,将快照存储在本地而不是云端并不能保证安全性,也不能选择退出该功能。

“端点与PC一样,历来比云环境具有更高的勒索软件风险。事实上,Absolute的一项调查发现,42%的端点在任何特定时刻都没有受到保护。其次,大多数用户甚至没有选择退出微软从PC用户那里获得的诊断/遥测数据。”Pappu说。“因此,虽然这一发展令人兴奋,但风险缓解将取决于自动数据保留标准,在打开召回之前自动执行安全/加密,最后是存储的信息类型(实际数据与元数据)。”

自动化SaaS安全公司DoControl的联合创始人兼CRO Omri Weinberg也告诉SC Media,虽然Recall等人工智能功能可以带来好处,但网络安全可能很难跟上这些进步。

“微软的新召回功能是在帮助用户使用高级上下文方面向前迈出的一大步,但它也提出了一些严重的安全和隐私问题。首先,不断对用户的PC进行屏幕截图,创造了一个敏感信息的宝库,如财务和个人数据,”自动化SaaS安全公司DoControl的联合创始人兼CROOmri Weinberg告诉SC Media。“这是网络犯罪分子的金矿,也对遵守GDPR和CCPA等全球数据保护法规提出了重大问题。”

Weinberg补充说,如果召回无法区分一般信息和敏感细节,就会有重大风险,正如其缺乏“内容审核”所表明的那样。

“我看到的最大问题是用户意识。微软确实提供选择退出选项,但如果用户不完全了解收集的数据的程度,或者如果他们不选择退出意味着什么,它们有多有效?在这些问题得到解决之前,我建议人们避免使用该系统,”温伯格说。

全球数据隐私管理公司Mine的联合创始人兼首席执行官Gal Ringel告诉SC Media,微软的召回是“对用户隐私的冒犯,是对最佳安全和隐私实践的攻击”。

Ringel说:“除了其极具侵入性的性质外,没有参数来审查或隐藏信用卡号、个人身份信息或公司商业秘密等敏感信息,这是产品设计中的一个严重错误,其风险远远超出了黑客。”

Ringel补充说,对于存储受保护员工、用户和客户数据的企业来说,其中许多企业没有资源来安全地存储大量非结构化数据,使用收集数百万张屏幕截图的系统是“等待发生的事故”。

“选择不使用这样的功能远远不足以保护用户安全。任何密切跟踪个人的东西都必须选择加入,并向公众提供明确的通知,解释该功能的作用以及为什么有必要,”Ringel总结道。

SC Media联系了微软,询问其对批评的回应,如何保护和使用通过召回收集的数据,以及是否在CoPilot+ PC上默认激活召回,并且没有收到回复。

作者: fitA

为您推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

联系我们

联系我们

010-88881688

在线咨询: QQ交谈

邮箱: 231630334@qq.com

工作时间:周一至周五,9:00-17:30,节假日休息

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部