人工智能真的可以通过一个按钮关闭吗？

星期二 29 九月 2026 - 09:25

人工智能的快速发展加剧了一个基本问题：社会如何控制日益自主的系统：如果一个AI系统变得危险，是否可以简单地关闭它？

关于人工智能的紧急“关闭按钮”的想法在美国重新引起关注，政策制定者、研究人员和技术高管们正在讨论如何管理与更强大AI系统相关的风险。这个概念看起来简单，但专家表示，在现代数字基础设施中实施它比关闭传统机器要复杂得多。

与工业设备不同，人工智能系统不一定局限于单一的物理位置。现代模型可以在云计算网络、数据中心和分布在不同地区的备份系统之间运行。主要科技公司在大型计算基础设施上投入了大量资金，以确保即使个别机器或设施不可用时也能维持服务。

这种冗余性带来了创建有效关闭机制的核心挑战之一。如果一台服务器或数据中心被关闭，如果其软件、计算资源或相关服务的副本在其他地方仍然可用，那么这并不一定会停止一个AI系统。因此，一个有效的紧急系统必须考虑主要基础设施以及备份和互联服务。

这个问题也进入了华盛顿的政策辩论。关于加强政府对先进AI系统的控制权的提案中，包括了要求开发者在特殊情况下降低模型能力或暂时暂停其操作的机制讨论。类似的问题在州级也被审视，因为当局考虑更广泛的AI安全框架。

实际困难超越了技术。关闭机制将引发关于谁有权启动它、在什么情况下以及根据哪些法律标准的问题。影响广泛部署的AI系统的决定可能会对依赖该技术的企业、公共服务和基础设施产生后果。

专家们还指出，AI在敏感领域的日益使用也是另一个复杂因素。人工智能越来越多地融入金融服务、网络安全、通信、能源系统和其他数字操作。因此，全面关闭可能会带来次要风险，因为某些重要服务依赖于被关闭的系统。

另一个挑战涉及自主AI代理的行为。与遵循狭义指令的传统软件不同，较新系统可以被设计为规划任务、与数字环境互动和使用外部工具。研究人员担心，控制不当的代理可能会找到意想不到的方法来实现分配的目标，从而使传统安全机制的设计变得更加困难。

这引发了关于关闭按钮是应被视为主要保障还是仅仅作为更广泛安全架构的一部分的辩论。一些研究人员认为政策制定者应专注于预防措施，包括严格的测试、监控、访问控制、事件报告以及开发者和操作人员的明确责任。

另一些人则认为，如果将紧急关闭机制从一开始就纳入AI系统，它们仍然可以发挥有用的作用。这些机制可以在不同层面上设计，使操作员能够暂停特定功能、限制代理对外部系统的访问或停用特定计算资源，而不是同时关闭所有与AI相关的服务。

监管的时机也是一个担忧。AI能力正在迅速发展，而立法和监管框架通常需要更长的时间来制定。因此，政策制定者面临着创建随着系统变得更加复杂和应用扩展而保持相关性的规则的挑战。

因此，一个可行的紧急机制需要AI开发者、云服务提供商、基础设施运营商和政府之间的协调。共同的技术标准可以使应对严重事件变得更加容易，同时减少一个公司的关闭程序与另一家公司运营的系统不兼容的风险。

这场辩论并不一定意味着不可控的AI系统是不可避免的。相反，它反映了对如何在这些日益自主的技术深入嵌入关键系统之前进行治理的日益关注。关闭机制可能是该框架的一部分，但专家普遍认为它只是AI安全更广泛方法的一个组成部分。

目前，中心挑战不只是找到一个可以关闭人工智能的按钮。设计能够识别严重风险、限制有害行为并在必要时控制性地停止个别系统或能力而不产生额外危险的技术、法律和制度保障才是关键。

关键词：

了解更多关于我们的信息！