安全漏洞引发对Meta Muse AI助手的担忧

09:32

Meta新推出的AI助手Muse因严重的安全漏洞而受到关注，该漏洞可能允许攻击者利用已授予代理的权限控制账户。

这一问题在Muse迅速在美国流行后不久出现，Muse迅速攀升至苹果免费应用商店的榜首。与传统聊天机器人不同，Muse旨在代表用户执行任务，包括预约、填写表格、处理客户服务请求、浏览网站和进行购物。

安全研究员Patrick Wardle发现了影响Muse macOS版本的零日漏洞。根据他的分析，本地运行的应用程序或终端命令可能会修改助手内部未记录的设置，包括用于处理语音转录的端点。

通过将转录数据重定向到攻击者控制的服务器，该漏洞可能会暴露与Muse账户相关的身份验证令牌。然后，该令牌可能赋予攻击者对账户的广泛控制权，并允许他们利用用户之前授予AI助手的权限。

Wardle演示了概念验证攻击，显示Muse现有的特权可能被用来执行诸如向计算机写入文件或访问相机等操作。他还描述了一种日益普遍的ClickFix社会工程技术的变体，该技术可能通过说服用户执行恶意命令来帮助触发该漏洞。

这一发现突显了与智能AI相关的更广泛的安全挑战。赋予AI系统与电子邮件、日历、消息服务、浏览器和其他应用程序互动的能力可以使其更加实用，但这也意味着成功的攻击可能会带来超出传统聊天机器人通常相关的后果。

Meta将Muse宣传为一个设计有安全和隐私控制的助手，包括旨在防止未经授权的操作和要求用户批准敏感操作的机制。Ars Technica报道，Meta在漏洞公开后发布了零日热修复程序。

安全问题的出现与亚马逊的另一场争议同时发生。该电子商务公司阻止Muse在Amazon.com上购物，理由是该代理在未将自己标识为AI代理且未经亚马逊同意的情况下访问了该网站。亚马逊表示，代表客户进行购买的第三方应用程序应透明操作，并尊重服务提供商的决定。

就Meta而言，该公司表示Muse无法查看用户的密码或支付信息，用户提供的凭据被安全存储。该公司对Muse的描述称，当没有公共应用程序接口可用时，助手可以通过自己的浏览器与网站互动。

这两项发展是独立的，但共同展示了开发能够在线独立行动的AI代理的公司所面临的一些困难。随着这些系统获得对更多账户、设备和服务的访问，安全研究人员和科技公司面临着越来越大的压力，以确保便利性不会以牺牲用户控制和数据保护为代价。

Muse的早期受欢迎程度表明，消费者越来越愿意将复杂的在线任务委托给AI系统。然而，该漏洞表明，围绕这些代理的安全架构正变得与其能力本身一样重要。一个被攻陷的聊天机器人可能会产生错误的信息，但一个获得真实账户访问权限的被攻陷代理可能会对其用户采取直接影响的行动。

关键词：

了解更多关于我们的信息！