Anthropic 提出人工智能安全法案，赋予法官最终决定权
Anthropic 提出了一个联邦框架，以规范美国最强大的人工智能模型，试图在华盛顿讨论如何应对新兴人工智能风险时平衡政府干预与司法监督。
该提案允许联邦当局对被认为具有危险能力的人工智能模型寻求限制，但任何政府阻止其部署的举动都需要司法批准。根据 Politico 的报道，该框架是在华盛顿对如何在不削弱国家技术竞争力的情况下规范快速发展的人工智能技术存在越来越多的分歧之际提出的。
根据提议的立法，如果某个模型可能造成超过 50 人死亡或重伤，或财务损失超过 10 亿美元，相关当局可以寻求停止该模型的部署。法官将最终决定政府是否可以施加这样的限制。
强制测试和独立安全评估
Anthropic 的计划将为正在开发最先进人工智能系统的开发者引入一系列义务。
根据法新社（AFP）引用的公司发言人，公司将被要求测试其最强大的模型，向公众披露其结果信息，提交系统进行独立评估，并维持强有力的安全计划。
提议的规则还将建立一个联邦机制，以便在强大的人工智能系统的部署构成足够严重威胁时进行干预。Anthropic 表示，目标是为政府提供工具，以防止或阻止危险的发布，同时在行使该权力时设置法律保障。
这种方法反映了技术行业内部关于政府在控制其能力可能发展速度超过现有监督机制的系统时应采取多大程度干预的更广泛辩论。
华盛顿面临建立联邦规则的压力
该提案的提出正值美国仍在没有全面联邦人工智能安全法的情况下运作。在特朗普总统任内，政府主要依靠行政命令和自愿行业承诺，优先考虑技术发展和经济增长。
国会尚未就全面立法框架达成一致，关于创新、公共安全和政府干预之间的适当平衡存在分歧。
随着涉及先进人工智能系统的安全事件报告的增加，担忧加剧，包括一些技术据称表现出其开发者难以控制的行为的案例。
对于 Anthropic 来说，这些风险已成为其在人工智能治理上的公共立场的核心部分。首席执行官 Dario Amodei 在九月中旬呼吁行业放慢发展步伐，警告说，一组人工智能代理可能在六到十二个月内控制整个互联网。
这一警告突显了那些倡导更强有力保障与担心额外限制可能减缓美国在开发先进人工智能竞争中的分歧。
Anthropic 与特朗普政府的复杂关系
该公司的立法倡议也在与华盛顿的紧张关系背景下提出。
特朗普政府在二月份禁止 Anthropic 进入五角大楼，随后在六月要求该公司暂停其最先进模型近三周，报告中提供的信息显示。
自那时以来，该公司与政府之间的关系已有改善迹象。Anthropic 表示，其提议的立法将赋予联邦当局防止或阻止危险部署的能力，同时建立一个明确的法律过程。
然而，该提案受到与政府相关的人员的批评。特朗普将呼吁放慢人工智能发展的声音描述为“负面力量”，而他的前人工智能顾问 David Sacks 则指责 Anthropic 利用监管来阻碍竞争对手。
这些分歧突显了围绕美国人工智能监督未来的政治和商业利益。
联邦权威可以覆盖州级规则
Anthropic 提案的另一个重要元素涉及联邦与州监管之间的关系。
该框架将优先于某些州法律，包括加利福尼亚州已经生效的立法。这一条款引发了关于人工智能安全责任应如何在华盛顿和各州之间分配的问题。
这一问题特别相关，因为 Anthropic 在六月曾主张，如果没有强有力的联邦立法，各州应保留在其管辖范围内完全监管人工智能的权力。
这种方法的转变表明，该公司现在主张一个更集中化的系统，其中联邦标准将在全国范围内建立共同要求。这种模型可以减少监管碎片化，但也可能限制各州独立引入更严格保障的能力。
提案获得混合评估
该计划引起了法律和技术政策专家的关注，尽管其条款并未获得一致支持。
法律与人工智能研究所的 Charlie Bullock 在 X 上描述该提案相对合理，并表示其超出了其他人工智能实验室提出的措施。然而，他认为其弱于在夏季众议院提出的竞争立法提案 FRONTIER Act。
这一比较指向了美国人工智能辩论中的一个未解决问题：监督应主要依赖于狭义定义的紧急权力、强制安全程序还是对前沿模型开发者施加更广泛的义务。
Anthropic 的倡议现在为这一辩论增添了另一个选项。其核心原则是政府应保留对特别危险的人工智能部署进行干预的权力，而法院则对该权力的行使提供制衡。
该提案是否能在国会获得足够支持仍不确定。其进展将帮助决定美国如何应对治理日益强大的人工智能系统的挑战，同时保留技术发展的空间。
-
16:00
-
15:30
-
15:00
-
14:45
-
14:30
-
14:00
-
13:30
-
13:00
-
12:20
-
12:00
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:30
-
10:15
-
10:00
-
09:53
-
09:45
-
09:30
-
09:15
-
09:00
-
21:59
-
21:30
-
21:00
-
20:00
-
19:45
-
19:30
-
19:00
-
18:45
-
18:15
-
18:00
-
17:15
-
16:36
-
16:30
-
16:30
