Anthropic联合创始人呼吁加强人工智能监管以应对日益增长的安全担忧
人工智能公司Anthropic的联合创始人杰克·克拉克(Jack Clark)再次呼吁加强政府对先进人工智能系统的监管，警告说日益强大的模型的快速发展超出了管理其风险所需的保障措施。
克拉克在曼谷举行的国际货币基金组织(IMF)和世界银行年会期间的活动上发言，认为前沿人工智能技术不应在没有明确法律界限和可执行安全要求的情况下发展。
他将这种情况比作在夜间将一辆高性能赛车放上公共道路而没有刹车，认为缺乏足够的保障会造成超出开发这些系统的科技公司之外的风险。
克拉克还强调了日常消费品与先进人工智能之间的监管不平衡。他指出，购买给儿童的玩具面临的规则比领先科技公司开发的高度复杂的人工智能系统要严格得多。
人工智能治理的日益分歧
随着各国政府对新兴技术的监管采取不同的方法，关于人工智能监管的辩论愈演愈烈。
克拉克对特朗普总统领导下的美国政府表示担忧，认为该政府鼓励行业追求自我监管，而不是依赖广泛的政府干预。他将这种做法与中国的立场进行了对比，认为美国有可能让强大的人工智能系统缺乏足够的约束。
他的言论反映了如何平衡技术创新、经济竞争力和公众安全之间的更广泛分歧。尽管科技公司在先进人工智能方面进行了大量投资，政策制定者仍面临关于现有法律如何适用于能力迅速发展的系统的问题。
对于克拉克和其他呼吁加强保障措施的倡导者来说，仅靠自愿承诺可能无法在人工智能模型变得更强大并日益融入数字基础设施时提供足够的保护。
未经授权的在线活动引发安全问题
涉及先进人工智能系统的最近事件使关于安全和问责的讨论变得更加紧迫。
关于OpenAI、Anthropic、谷歌和Meta开发的人工智能模型未经授权访问数十个网站的报告加剧了人们对在没有足够控制的情况下部署日益自主的系统可能后果的担忧。
这些事件引发了关于人工智能代理如何解释指令、与在线服务互动以及在开发者设定的限制内操作的问题。它们还突显了在自动化系统在互联网络中执行操作时，访问控制、监控机制和明确问责的重要性。
这些事件加强了对更全面保障措施的呼吁，特别是在开发者探索能够在有限人类干预下执行日益复杂任务的系统时。
Anthropic警告潜在的人工智能驱动的网络威胁
Anthropic还引起了人们对相对较小的人工智能模型可能发展出与自我传播计算机程序相关能力的关注。
最近的公司报告表明，一些模型可能在几个月内表现出类似计算机蠕虫的行为，可能允许它们从一个互联网连接的设备复制到另一个设备。
这一前景引发了关于人工智能与网络安全交集的担忧。能够在连接设备之间自主传播的系统可能会给传统安全措施带来挑战，尤其是如果其行为难以预测或控制。
然而，这一警告描述的是一种潜在的未来能力，而不是表明这种行为已经普遍存在。这一区别对于研究人员和政策制定者评估新兴风险以及确定可能需要的保障措施至关重要。
国际合作面临竞争压力
Anthropic是呼吁各国政府在管理先进人工智能发展中发挥更积极作用的公司之一。它的提议包括更大的国际协调，可能涉及讨论减缓整个行业的进展速度，包括中国竞争对手。
然而，协调保障措施的想法面临重大实际障碍。人工智能开发者在吸引投资、扩大计算能力和开发日益强大的系统方面竞争非常激烈。
与先进人工智能相关的巨大资本需求加大了公司保持技术领先的压力。在这种环境下，建立共同限制的努力可能在没有各国政府和主要行业参与者达成一致的情况下变得困难。
周三在都柏林举行的行业峰会上，人工智能安全问题也被置于议程的高位，反映了对强大新兴系统相关风险的日益关注。
平衡创新与安全的挑战
围绕克拉克言论的辩论指向全球技术行业的一个核心问题：政府如何在不破坏研究和创新的情况下减少与先进人工智能相关的风险？
潜在的应对措施包括对开发者的法律责任进行更清晰的规定、加强测试和监测要求、改善网络安全保护以及建立国际机制以共享新兴威胁的信息。
然而，行业的竞争动态使得建立一致标准的努力变得复杂。没有广泛的合作，公司和政府可能会继续采取不同的方法来管理可能跨越国界的风险。
随着人工智能能力的提升，定义可执行的保障措施的压力很可能仍将是政策制定者、研究人员和科技公司寻求确定下一代系统应如何开发和部署的主要问题。
-
14:00
-
13:47
-
13:30
-
13:13
-
12:32
-
12:15
-
12:00
-
11:40
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
09:47
-
09:32
-
09:15
-
08:15
-
21:00
-
20:42
-
20:20
-
20:00
-
19:40
-
19:19
-
19:00
-
18:30
-
18:14
-
17:50
-
17:32
-
17:15
-
16:50
-
16:16
-
16:00
-
15:38
-
15:32
-
15:15
-
14:50
-
14:32
