查尔斯三世国王在苏格兰召集人工智能领袖推动以人为本的发展
查尔斯三世国王于周四在苏格兰召集了一些世界上最有影响力的人工智能公司高层，讨论一个日益成为全球技术辩论中心的问题：人工智能如何在不妨碍人类控制和安全的情况下取得进展？
在阿尔希尔的邓弗里斯庄园举行的私人会议上，汇聚了包括英伟达、谷歌DeepMind、OpenAI和Anthropic等主要公司的代表。英国政府官员和技术与伦理专家也预计将参与其中。
此次聚会由迪奇利基金会主办，旨在探讨人工智能如何以有利于社会的方式开发和应用。该基金会将其工作描述为汇聚政府、商业和其他领域的领导者，以应对复杂的全球挑战。
查尔斯呼吁对人工智能的安全保障
国王预计将在开场发言中敦促科技高管确保人工智能始终关注人类利益，而不是成为目的本身。
白金汉宫表示，讨论将集中在如何将安全置于人工智能发展的核心，并鼓励国际合作。查尔斯在开场发言后预计不会参与实质性讨论。
会议地点具有重要意义。邓弗里斯庄园是国王基金会的总部，旨在将企业和公共部门人士聚集在一起，围绕这一经济和社会影响迅速扩大的技术进行讨论。
此次会议恰逢各国政府、科技公司和研究人员辩论现有安全保障措施能否跟上日益强大的人工智能系统。
科技领袖面对日益增长的安全担忧
根据英国和国际媒体引用的报道，预计出席此次聚会的人物包括谷歌DeepMind总裁德米斯·哈萨比斯、英伟达首席执行官黄仁勋和OpenAI首席财务官萨拉·弗赖尔。英国人工智能部长卡尼什卡·纳拉扬和IonQ高管尼科洛·德·马西也预计将出席。
此次讨论是在对先进人工智能系统的行为和能力日益担忧的背景下进行的。
近年来，行业内的知名人士公开辩论发展速度是否应当放缓，以便安全措施能够跟上。Anthropic首席执行官达里奥·阿莫代伊呼吁对开发前沿人工智能模型的公司进行更强的外部监管，而OpenAI首席执行官山姆·奥特曼和埃隆·马斯克则对更广泛的安全讨论表示支持。
据路透社引用彭博新闻的报道，OpenAI、Anthropic和谷歌DeepMind也在讨论在人工智能安全方面的可能合作。这些讨论反映出主要人工智能开发者越来越认识到某些安全挑战可能需要跨公司协调，而不是孤立的努力。
负责任的人工智能提议框架
迪奇利基金会参与准备讨论的原则。提议的框架旨在围绕人工智能的开发和使用建立共同基础，其中人类尊严和社会利益是会议前报道的主题之一。
目标不仅仅是讨论技术进步。它还提出了更广泛的问题：谁应该为日益强大的系统设定界限，这些界限应该如何执行，以及在快速变化的技术环境中，国际合作如何运作。
该基金会更广泛的技术项目已经关注围绕人工智能、民主机构、战略技术合作和技术在经济增长中的作用的问题。
人工智能安全成为国际问题
苏格兰峰会的召开正值国际协调呼声日益高涨。
对人工智能的担忧不再仅限于就业、错误信息或企业竞争的问题。研究人员和技术高管越来越多地讨论网络安全、自治系统以及高度能力模型可能以意想不到的方式行为的可能性。
这一辩论产生了截然不同的反应。一些行业领袖主张加强安全保障和更大监管，而另一些人则警告过度限制可能会削弱创新，使西方国家在全球技术竞争中处于不利地位。
这种分歧在美国尤为明显，政治领导人和技术高管就政府干预应延伸到何种程度进行了辩论。
从王室呼吁到全球政策挑战
查尔斯的介入本身并不建立新的法规，但此次聚会为通常在技术公司、政府和专业研究人员之间进行的辩论提供了不同寻常的曝光度。
参与者面临的核心挑战是，广泛的原则是否能够转化为在一个以惊人速度运作的行业中可行的安全保障。
随着人工智能公司竞争构建越来越强大的系统，邓弗里斯庄园的讨论提出了一个不同的问题：什么机制可以确保进步与人类利益保持一致？
对于政府和科技公司而言，这个问题正变得越来越难以与全球人工智能产业的未来分开。
-
14:47
-
14:32
-
14:30
-
14:17
-
14:15
-
14:02
-
13:59
-
13:41
-
13:22
-
13:07
-
12:45
-
12:25
-
12:05
-
12:01
-
11:45
-
11:28
-
11:11
-
10:51
-
10:47
-
10:30
-
10:10
-
10:04
-
09:59
-
09:45
-
09:27
-
09:26
-
09:10
-
09:05
-
08:49
-
08:45
-
08:28
-
08:19
-
08:10
-
08:00
-
07:47
-
07:44
-
07:32
-
07:15
-
07:13
-
20:00
-
19:45
-
19:30
-
19:10
-
18:47
-
18:32
-
18:15
-
17:50
-
17:32
-
17:15
-
16:47
-
16:32
-
16:16
-
16:00
-
15:42
-
15:21
-
15:04
