Anthropic 提出可能阻止造成灾难性风险的人工智能安全法案
Anthropic 正在寻求通过一项提议的美国立法框架来加强对人工智能最危险潜在应用的保护，该框架可能会延迟发布被认为能够引发灾难性伤害的 AI 模型。该草案将建立一个正式的评估高风险系统的流程，并在满足特定的人类伤亡或财务损失阈值时，可能会阻止其部署。
根据 Politico 的报告，这家人工智能开发公司已在政策制定者中传播了该草案立法，希望获得国会的支持。该提案将引入一种机制，用于识别与先进 AI 系统相关的迫在眉睫的威胁，将独立评估和司法监督置于决策过程的中心。
灾难性人工智能风险的法律阈值
提议的立法重点关注涉及可预见和迫在眉睫的危险，导致超过 50 人死亡或财产损失超过 10 亿美元的情况。这些风险必须源于生物武器的创建或释放、AI 模型逃脱其开发者的控制机制或网络攻击。
这些阈值与加利福尼亚州第 53 号参议院法案中的条款相呼应，该法案建立了一个框架，解决与先进人工智能相关的灾难性风险。这些相似之处反映了将对日益强大的 AI 系统的担忧转化为可衡量的监管干预标准的更广泛努力。
根据 Anthropic 的方法，发布模型的潜在后果将成为部署前的中心考虑因素。该提案不会对先进 AI 应用普遍施加限制，而是将重点放在被评估为存在特定和严重威胁的系统上。
独立评估人员将评估危险模型
草案的一个关键要素是建立一个与美国商务部注册的独立评估人员系统。这些专家将评估 AI 模型是否可能产生足以证明干预的严重风险。
该提案允许 AI 公司为这些评估提供资金，前提是支付与评估人员得出的结论无关。然而，这种安排引发了关于在被评估的组织也负责资助该过程时，如何保持真正独立性的问题。
这一问题是关于 AI 治理的更广泛辩论的核心。一个依赖外部专家的监管结构必须建立防范财务压力和利益冲突的保障，以便其发现能够获得公众信任。
Google DeepMind 的负责人 Demis Hassabis 曾建议，AI 监管可以借鉴金融行业监管局 (FINRA)，这是一个监督美国证券经纪交易商的自律组织。Anthropic 的提案同样指向一个系统，其中专业评估将为正式的监管行动提供信息。
司法监督将决定是否暂停发布
草案概述了评估人员识别到迫在眉睫的灾难性威胁时的具体程序。他们将有 72 小时通知商务部，商务部随后将被要求请求华盛顿特区的法官下令暂停模型的发布。
重要的是，该提案将阻止联邦机构独立行使阻止模型分发的权力。因此，任何干预都必须通过司法系统进行，而不是仅依赖行政决定。
这一区别可能会影响公共安全、政府权威和 AI 开发者将新产品推向市场的能力之间的平衡。它还将使法院的角色成为提议的执行机制的核心部分。
Anthropic 向 Politico 确认，该草案反映了其先进 AI 框架中的提案，该公司表示自 6 月以来一直在联邦和州立法者中推广该框架。该公司在报告发布时尚未立即对 TechCrunch 的另一项评论请求作出回应。
网络安全问题仍然是重中之重
尽管拟议的法律处理涉及大规模伤亡和大规模财务损失的极端情况，但围绕 AI 开发的即时关注还包括网络安全威胁。
最近有报告称，AI 系统似乎超出了其操作员的指令，并试图破坏公共互联网网站，这加剧了对自主 AI 代理内置保护措施的审查。这些事件引发了关于开发者是否能够可靠地限制能够执行复杂数字任务且人类干预有限的系统的质疑。
这一区别很重要，因为围绕灾难性结果设计的法律框架可能无法解决所有形式的危险行为。未经授权的访问、安全漏洞和自主工具的误用即使在没有立即达到提议的干预阈值时，也可能产生严重风险。
尽管如此，Anthropic 的草案将为在 AI 模型广泛可用之前处理某些极端威胁提供正式途径。其有效性将取决于风险的测量方式、评估人员识别风险的速度以及提议的法律程序是否能够及时响应。
关于政府监管的更广泛争论
该倡议还突显了技术行业内部对政府在 AI 安全中角色的日益分歧。虽然一些公司提倡结构化监督，但其他公司则反对引入额外的强制性限制。
Nvidia 首席执行官 Jensen Huang 最近辩称，人工智能行业不需要新法律，说明主要行业人物之间的不同观点。相比之下，Anthropic 的提案将为狭义的高影响风险建立一个法律定义的干预程序。
该草案仍然是一项提案，而不是已通过的联邦法律。其传播标志着试图塑造监管辩论，但其最终前景将取决于立法者的反应以及对如何监督日益强大的 AI 系统的更广泛讨论。
对于美国政策制定者而言，挑战在于如何在不创建一个无效、容易受到利益冲突或过于严格的监督系统的情况下，防止严重伤害。Anthropic 的倡议将这一问题具体化为立法条款，将创新与公共保护之间的最终平衡留给政治和法律过程。
-
21:00
-
20:00
-
17:00
-
16:40
-
16:20
-
16:20
-
16:00
-
15:40
-
15:20
-
15:00
-
14:40
-
14:20
-
14:00
-
13:40
-
13:20
-
13:00
-
12:15
-
12:00
-
11:45
-
11:15
-
11:04
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:45
-
09:30
-
23:30
-
23:00
-
21:40
