人工智能竞争对手一致认为需要放缓发展，但落实这一共识仍然困难
一些人工智能行业最杰出的领导者越来越承认需要放慢先进人工智能的发展，但将这一新兴共识转化为具体行动可能会更加困难。
Anthropic首席执行官达里奥·阿莫代（Dario Amodei）、OpenAI首席执行官山姆·奥特曼（Sam Altman）、SpaceX和xAI创始人埃隆·马斯克（Elon Musk）以及其他科技界人士最近表达了对更谨慎的人工智能发展速度的支持。在一位前Anthropic研究员辞职并警告越来越强大的人工智能系统可能对人类构成严重风险后，讨论开始获得动力。
尽管达成了越来越多的共识，但仍然存在重大障碍。公司和国家之间的竞争、商业激励以及特朗普政府的政策都可能使得协调限制人工智能发展的努力变得困难。
尼克·里斯（Nick Reese），美国国土安全部前新兴技术政策官员和纽约大学的兼职教授，表示，这场辩论可能会促使行业重新思考成功的定义。他将这种情况与航空业进行比较，认为防止重大事故被视为成功的重要衡量标准，而人工智能系统的严重故障往往被不同对待。
原则上，各个人工智能公司可以独立放慢其开发计划。然而，实际上，技术的快速进步在很大程度上是由竞争推动的，以构建越来越强大的模型。美国政府还强调保持美国在技术上对中国的优势。
商业压力又增加了另一层复杂性。Anthropic和OpenAI都在追求重大业务扩展，而OpenAI表示，计划在2026年前不公开上市，继续致力于安全相关的工作。
阿莫代提出了几项措施，以期对先进人工智能系统实施更大的监督。一项提案将允许独立的外部评估者持续访问领先的人工智能实验室，使他们能够从公司内部监控安全实践。Anthropic表示正在采用这种方法，而奥特曼表示OpenAI支持这一想法。
奥特曼还表达了对建立联邦框架以设定先进人工智能安全标准的支持，同时认为公司不应等待立法之前采取自愿的安全措施。
阿莫代的更广泛提案呼吁领先的人工智能实验室之间的合作，并获得美国和其他民主国家政府的支持。目标是建立共同的安全标准，并可能对不受控制的人工智能发展施加限制。
国际合作还必须包括具有竞争战略利益的国家，包括中国。阿莫代承认，达成这样的协议将特别困难。
他的提案范围从对明显危险应用的相对狭窄限制，例如使用人工智能促进生物武器，到更雄心勃勃的措施，要求先进模型在发布前接受标准化的网络安全和生物风险测试。
一个更具挑战性的任务将涉及控制能够自我递归改进的系统的速度。阿莫代认为，从极快的发展周期转向稍慢的周期可以降低风险，同时保留人工智能进步的大部分战略价值。
最雄心勃勃的选择将是达成一项广泛的国际协议，以实质性限制人工智能发展的整体速度。奥特曼强调，“速度控制”不应被解释为停止技术进步，而是接受一些额外的成本和延迟，以换取更强的安全措施。
专家们对这种协调是否可以现实地实现仍然存在分歧。牛津互联网研究所的技术与监管教授桑德拉·瓦赫特（Sandra Wachter）表示，放缓在理论上是可能的，但需要跨多个国家的公司和政府之间的广泛合作。
她还指出，可能使公司对人工智能相关风险更负责任的监管选项，包括影响运营大型数据中心所需资源（如电力和水）的获取的措施。
独立评估者的提案得到了行业某些部分的支持，但仍然存在关于这些评估者的独立性以及谁将决定他们使用的标准的问题。
加拿大人工智能公司Cohere的联合创始人兼首席执行官艾丹·戈麦斯（Aidan Gomez）警告说，由少数领先公司创建的行业标准可能会将更多权力集中在最大的人工智能实验室手中。他还批评了可能允许大型人工智能公司获得某些反垄断限制豁免的提案。
布鲁金斯学会的高级研究员埃尔哈姆·塔巴西（Elham Tabassi）同样认为，如果评估机制是自愿的并由公司自己控制，独立监督将仍然有限。她强调，随着人工智能系统能力的扩展，开发科学有效的测试和测量方法的重要性。
美中技术竞争增加了另一层复杂性。特朗普政府通常支持对人工智能采取相对宽松的监管方法，强调创新并保持美国对中国的领先地位。专家们将两国人工智能行业之间的竞争比作军备竞赛，这种动态可能使国际合作更加困难。
尽管如此，一些行业观察者看到对人工智能安全日益关注的迹象。治理平台i-GENTIC AI的联合创始人兼首席执行官扎赫拉·提姆萨赫（Zahra Timsah）将竞争技术领导者和立法者之间的最近趋同视为令人鼓舞。
现在的核心挑战是从支持声明转向可执行的机制。尽管几位有影响力的人士表达了对放慢或更谨慎管理先进人工智能发展的支持，但这些提案的有效性最终将取决于公司和政府是否能够就共同标准、独立监督和实际限制达成一致。
-
12:42
-
12:21
-
12:04
-
11:44
-
11:25
-
11:10
-
10:45
-
10:26
-
10:23
-
10:10
-
09:50
-
09:49
-
09:33
-
09:32
-
09:23
-
09:15
-
09:05
-
08:47
-
08:32
-
08:15
-
20:00
-
19:44
-
19:26
-
19:10
-
18:47
-
18:32
-
18:15
-
18:00
-
17:42
-
17:21
-
17:05
-
16:45
-
16:28
-
16:10
-
16:03
-
15:47
-
15:32
-
15:15
-
15:15
-
15:00
-
14:41
-
14:20
-
14:00
-
13:44
-
13:25
-
13:10
