突发 12:30 Snapchat与人工智能:新工具让增强现实镜头开发对创作者更简单 12:00 沙特阿拉伯:胡塞导弹袭击损坏利雅得80层PIF大楼 11:45 微软:首席执行官萨提亚·纳德拉解释为何提供6万名员工自愿离职方案 11:30 美国与伊朗紧张关系:内塔尼亚胡 reportedly 呼吁特朗普参与新的军事打击 11:15 特朗普、习近平和普京:在中国举行的前所未有的三方峰会创造历史 10:45 国际足联主席选举:三位候选人将在2027年拉巴特展开激烈角逐 10:30 特朗普与范斯在伊朗问题上的紧张关系:马尔科·鲁比奥有望成为2028年接班人 10:15 埃隆·马斯克为黄仁勋辩护:英伟达的决定如同在迈克尔·乔丹巅峰时期将其替换下场 10:00 Anthropic首次公开募股:公司以每股83美元的价格创造813亿美元的股票市场历史 09:45 特朗普警告伊朗:涉嫌化学和生物武器计划可能引发美国大规模报复 09:30 摩洛哥:残疾人足球队在墨西哥四分之一决赛后瞄准世界杯荣耀 08:45 意大利:犹太政治家因反犹太主义法争议辞去民主党职务 08:30 加沙停火面临威胁:和平委员会指责以色列和哈马斯破坏停火协议 22:00 英国黑客面临法律制裁:GTA 6泄密和1160万美元加密货币盗窃 21:30 山姆·阿尔特曼谈黄仁勋:人工智能产业离不开他 21:00 皇家马德里:阿尔达·居勒续约至2032年,俱乐部确保土耳其明星的未来 20:30 特朗普与BBC:佛罗里达法院延长10亿美元诽谤案的证词截止日期 20:00 欧洲央行:面对不断上升的人工智能网络攻击,需要更强的合作 19:00 优步与Zipline:德克萨斯州无人机食品配送的崛起,预示全国扩张 17:30 中国:北京誓言对美国对先进芯片出口的新限制采取报复措施 17:00 乌克兰战争:俄罗斯指责法国直接军事介入冲突 16:30 iPhone维修争议:苹果将在2027年6月面临巴黎重大法律挑战 15:30 法国内政部长劳伦特·纽涅兹因涉嫌对受伤警察的虚假声明面临法律投诉 15:00 欧盟:委员会提议向乌克兰提供450亿欧元贷款以支持2027年 13:30 国际足联排名:摩洛哥成为非洲和阿拉伯世界排名最高的球队

人工智能真的可以通过一个按钮关闭吗?

星期二 29 九月 2026 - 09:25
人工智能真的可以通过一个按钮关闭吗?

人工智能的快速发展加剧了一个基本问题:社会如何控制日益自主的系统:如果一个AI系统变得危险,是否可以简单地关闭它?

关于人工智能的紧急“关闭按钮”的想法在美国重新引起关注,政策制定者、研究人员和技术高管们正在讨论如何管理与更强大AI系统相关的风险。这个概念看起来简单,但专家表示,在现代数字基础设施中实施它比关闭传统机器要复杂得多。

与工业设备不同,人工智能系统不一定局限于单一的物理位置。现代模型可以在云计算网络、数据中心和分布在不同地区的备份系统之间运行。主要科技公司在大型计算基础设施上投入了大量资金,以确保即使个别机器或设施不可用时也能维持服务。

这种冗余性带来了创建有效关闭机制的核心挑战之一。如果一台服务器或数据中心被关闭,如果其软件、计算资源或相关服务的副本在其他地方仍然可用,那么这并不一定会停止一个AI系统。因此,一个有效的紧急系统必须考虑主要基础设施以及备份和互联服务。

这个问题也进入了华盛顿的政策辩论。关于加强政府对先进AI系统的控制权的提案中,包括了要求开发者在特殊情况下降低模型能力或暂时暂停其操作的机制讨论。类似的问题在州级也被审视,因为当局考虑更广泛的AI安全框架。

实际困难超越了技术。关闭机制将引发关于谁有权启动它、在什么情况下以及根据哪些法律标准的问题。影响广泛部署的AI系统的决定可能会对依赖该技术的企业、公共服务和基础设施产生后果。

专家们还指出,AI在敏感领域的日益使用也是另一个复杂因素。人工智能越来越多地融入金融服务、网络安全、通信、能源系统和其他数字操作。因此,全面关闭可能会带来次要风险,因为某些重要服务依赖于被关闭的系统。

另一个挑战涉及自主AI代理的行为。与遵循狭义指令的传统软件不同,较新系统可以被设计为规划任务、与数字环境互动和使用外部工具。研究人员担心,控制不当的代理可能会找到意想不到的方法来实现分配的目标,从而使传统安全机制的设计变得更加困难。

这引发了关于关闭按钮是应被视为主要保障还是仅仅作为更广泛安全架构的一部分的辩论。一些研究人员认为政策制定者应专注于预防措施,包括严格的测试、监控、访问控制、事件报告以及开发者和操作人员的明确责任。

另一些人则认为,如果将紧急关闭机制从一开始就纳入AI系统,它们仍然可以发挥有用的作用。这些机制可以在不同层面上设计,使操作员能够暂停特定功能、限制代理对外部系统的访问或停用特定计算资源,而不是同时关闭所有与AI相关的服务。

监管的时机也是一个担忧。AI能力正在迅速发展,而立法和监管框架通常需要更长的时间来制定。因此,政策制定者面临着创建随着系统变得更加复杂和应用扩展而保持相关性的规则的挑战。

因此,一个可行的紧急机制需要AI开发者、云服务提供商、基础设施运营商和政府之间的协调。共同的技术标准可以使应对严重事件变得更加容易,同时减少一个公司的关闭程序与另一家公司运营的系统不兼容的风险。

这场辩论并不一定意味着不可控的AI系统是不可避免的。相反,它反映了对如何在这些日益自主的技术深入嵌入关键系统之前进行治理的日益关注。关闭机制可能是该框架的一部分,但专家普遍认为它只是AI安全更广泛方法的一个组成部分。

目前,中心挑战不只是找到一个可以关闭人工智能的按钮。设计能够识别严重风险、限制有害行为并在必要时控制性地停止个别系统或能力而不产生额外危险的技术、法律和制度保障才是关键。


  • 黎明祷告
  • 日出
  • 正午祷告
  • 下午祷告
  • 日落祷告
  • 夜祷

阅读更多

本网站 walaw.press 使用 Cookie,以为您提供良好的浏览体验并持续改进我们的服务。继续浏览本网站即表示您同意使用这些 Cookie。