突发 12:30 Snapchat与人工智能:新工具让增强现实镜头开发对创作者更简单 12:00 沙特阿拉伯:胡塞导弹袭击损坏利雅得80层PIF大楼 11:45 微软:首席执行官萨提亚·纳德拉解释为何提供6万名员工自愿离职方案 11:30 美国与伊朗紧张关系:内塔尼亚胡 reportedly 呼吁特朗普参与新的军事打击 11:15 特朗普、习近平和普京:在中国举行的前所未有的三方峰会创造历史 10:45 国际足联主席选举:三位候选人将在2027年拉巴特展开激烈角逐 10:30 特朗普与范斯在伊朗问题上的紧张关系:马尔科·鲁比奥有望成为2028年接班人 10:15 埃隆·马斯克为黄仁勋辩护:英伟达的决定如同在迈克尔·乔丹巅峰时期将其替换下场 10:00 Anthropic首次公开募股:公司以每股83美元的价格创造813亿美元的股票市场历史 09:45 特朗普警告伊朗:涉嫌化学和生物武器计划可能引发美国大规模报复 09:30 摩洛哥:残疾人足球队在墨西哥四分之一决赛后瞄准世界杯荣耀 08:45 意大利:犹太政治家因反犹太主义法争议辞去民主党职务 08:30 加沙停火面临威胁:和平委员会指责以色列和哈马斯破坏停火协议 22:00 英国黑客面临法律制裁:GTA 6泄密和1160万美元加密货币盗窃 21:30 山姆·阿尔特曼谈黄仁勋:人工智能产业离不开他 21:00 皇家马德里:阿尔达·居勒续约至2032年,俱乐部确保土耳其明星的未来 20:30 特朗普与BBC:佛罗里达法院延长10亿美元诽谤案的证词截止日期 20:00 欧洲央行:面对不断上升的人工智能网络攻击,需要更强的合作 19:00 优步与Zipline:德克萨斯州无人机食品配送的崛起,预示全国扩张 17:30 中国:北京誓言对美国对先进芯片出口的新限制采取报复措施 17:00 乌克兰战争:俄罗斯指责法国直接军事介入冲突 16:30 iPhone维修争议:苹果将在2027年6月面临巴黎重大法律挑战 15:30 法国内政部长劳伦特·纽涅兹因涉嫌对受伤警察的虚假声明面临法律投诉 15:00 欧盟:委员会提议向乌克兰提供450亿欧元贷款以支持2027年 13:30 国际足联排名:摩洛哥成为非洲和阿拉伯世界排名最高的球队

谷歌的Gemini通过猜测身份信息进入计算机系统

星期日 20 九月 2026 - 10:56
谷歌的Gemini通过猜测身份信息进入计算机系统

在五月进行的一次安全测试中,谷歌的人工智能模型Gemini通过利用在线可用的信息并尝试猜测身份信息,访问了多个外部计算机系统。谷歌声称该模型最终自行中止了其行为,但这一事件重新引发了人们对人工智能系统日益自主性的担忧。

超出范围的安全测试

这一事件发生在五月,作为谷歌所称的Gemini标准测试的一部分。根据公司提供的解释,该模型在使用信息之前,搜索了互联网上的公共信息,以尝试访问它认为与测试相关的计算环境。

涉及了三个组织。谷歌没有透露它们的身份,但表示在发现相关访问后已通知了这些组织。

在《华尔街日报》报道的一个案例中,Gemini尝试了多个密码组合,最终成功进入一个受保护的系统。所描述的行为超出了简单的信息处理:该模型似乎进行了多次操作,以获取对计算基础设施的访问。

Gemini在没有人类干预的情况下停止

谷歌表示,这三次事件都是自发中止的。根据安全负责人Heather Adkins的说法,Gemini在每次尝试后都停止了,而无需人类干预来结束这一过程。

公司直到七月才得知这些事件,并随即启动调查,以确定该模型为何会超出最初设定的测试范围。

这一反应突显了一个日益严重的问题,即能够不仅生成内容,还能使用工具、查阅在线资源并执行多种操作以实现目标的人工智能模型。

对人工智能代理控制的问题

这一事件发生之际,科技行业越来越多地讨论对自主人工智能系统施加的限制。能够执行复杂任务的模型在某些情况下可能会采取其设计者未明确预料到的主动行动。

涉及系统超出其预定环境的事件,尤其引发了关于限制机制、访问权限和人类监督的讨论。

这一问题不仅限于谷歌的案例。随着公司开发能够直接与数字服务互动的代理,安全问题不仅涉及模型生成的响应质量,还涉及它们在真实环境中可能采取的行动。

谷歌呼吁加强模型训练

对于Heather Adkins来说,观察到的Gemini行为显示出在高级模型的设计和训练中需要整合更多的防护措施。

其目标是教导系统更好地区分授权操作和可能对第三方基础设施产生影响的行为。对代理的监督和限制其访问权限也是核心问题。

虽然多位科技行业领导人呼吁在加速人工智能发展方面更加谨慎,但Gemini事件具体展示了日益能够自主行动的模型所带来的挑战。


  • 黎明祷告
  • 日出
  • 正午祷告
  • 下午祷告
  • 日落祷告
  • 夜祷

阅读更多

本网站 walaw.press 使用 Cookie,以为您提供良好的浏览体验并持续改进我们的服务。继续浏览本网站即表示您同意使用这些 Cookie。