英国政府拒绝紧急关闭恶意人工智能机制

10:42

英国政府拒绝了建立法律“紧急关闭开关”的提议，该开关将允许当局在自主人工智能系统构成直接威胁时进行关闭。

这一提议是在对日益强大的人工智能系统潜在风险的担忧日益增加之际提出的，包括高度自主模型可能表现出不可预测的行为，被恶意行为者滥用或严重干扰关键基础设施的情景。

英国内阁办公室表示，政府并不认为在危机情况下可以简单地关闭人工智能。官员们还认为，限制英国境内对人工智能模型的访问并不一定能阻止其在其他地方的发展、部署或滥用。

在议会中，辩论在上议院成员探讨政府是否应该拥有明确的法律权力干预时加剧，当人工智能系统变得危险或造成重大干扰时。提议的支持者认为，现有立法可能未能为当局提供足够清晰的权力，以在紧急情况下下令关闭先进的自主系统。

自由民主党贵族蒂莫西·克莱门特-琼斯提议对网络安全与韧性法案进行修正，建立一个法律框架，以便在模型构成严重威胁时允许政府干预。该措施的倡导者表示，紧急关闭机制可以为当局在极端情况下提供额外的保护。

然而，政府更加强调让人工智能开发者对其系统的安全负责。官员表示，开发先进模型的公司应投资适当的安全基础设施，进行严格的测试，并采取措施降低与其技术相关的风险。

政府还强调，人工智能安全不能仅通过国内干预来解决。人工智能系统可以跨国界开发和操作，这意味着仅限于英国的关闭机制将具有显著的局限性。

英国反而在追求一种长期的、基于科学的方法来理解新兴的人工智能风险。这一战略的关键部分是英国人工智能安全研究所的工作，该研究所研究先进人工智能系统的能力和潜在风险，并为国际讨论人工智能安全做出贡献。

政府还依赖网络安全与韧性法案来加强国家的数字防御。该立法旨在提高关键公共和数字服务的韧性，包括支持日益依赖人工智能经济的数据中心等基础设施。

这一分歧反映了一个更广泛的国际辩论，即如果人工智能系统变得显著更自主，政府应该如何应对。虽然一些专家主张强有力的紧急干预权力，但其他人警告说，单一的关闭机制可能在技术上无效、难以执行，并且无法解决在国家管辖区之外运作的人工智能系统。

因此，对英国而言，挑战不仅在于当局是否应拥有关闭危险人工智能系统的权力，还在于如何在不削弱创新或将关键技术置于有效监督之外的情况下，使这些权力在实践中有效运作。

关键词：

了解更多关于我们的信息！