马克·扎克伯格拒绝放慢先进人工智能发展的呼声
马克·扎克伯格对日益增长的放慢先进人工智能开发的呼声表示反对，认为竞争、用户期望和法律责任已经给科技公司提供了强有力的动机，使其系统更安全。
随着硅谷对人工智能发展速度的辩论加剧，Meta首席执行官的立场显得尤为重要。几位知名科技高管和研究人员最近警告称，越来越自主的系统可能会带来难以管理的风险，如果能力的提升速度超过安全机制的进步。Anthropic首席执行官达里奥·阿莫德伊呼吁有意识地放慢发展速度，而OpenAI首席执行官山姆·阿尔特曼和埃隆·马斯克则表示支持更加谨慎的做法。
然而，扎克伯格认为，行业并不一定需要协调的暂停。他在X上发表的评论中表示，个别人工智能实验室有责任和能力决定在保持适当安全标准的同时，能够多快开发他们的模型。在他看来，未能提供可靠系统的公司面临失去用户的风险，而竞争对手则提供更值得信赖的产品。
Meta创始人还指出，法律风险是另一个重要的动机。造成重大伤害的人工智能公司可能面临诉讼、经济损失和声誉损害，从而产生商业压力以改善安全措施。扎克伯格提到Meta决定推迟发布其Muse人工智能代理的例子，直到完成额外的安全工作，说明公司可以在不等待行业广泛协议的情况下调整自己的开发流程。
扎克伯格论点的核心是人工智能对齐的概念，这广泛指的是确保人工智能系统按照人类指示、目标和安全要求行为的努力。他认为，随着人工智能代理承担越来越复杂的任务，对齐和可信度正变得越来越重要的竞争因素。
随着人工智能系统超越传统聊天机器人的功能，讨论变得更加紧迫。较新的代理可以与网站、软件和数字服务互动，执行一系列动作，并以更大的自主性操作。这些能力引发了关于现有监控和控制技术在模型变得更加复杂时是否仍然有效的问题。路透社报道称，最近涉及人工智能代理的事件和对递归自我改进的担忧加剧了对更强安全措施的呼声。
行业内部的分歧不仅仅是关于人工智能是否应该安全开发，更是关于如何实现这种安全。扎克伯格的做法在很大程度上依赖于竞争和个别公司的责任，而阿莫德伊和其他批评者则认为，能力提升的速度可能需要集体的安全保障和领先实验室之间的更大协调。
一些公司已经在安全问题上寻求合作。OpenAI据报道正在与Anthropic和谷歌DeepMind讨论人工智能安全，探索在不一定需要特别反垄断豁免的情况下协调风险降低的方法。这些讨论表明，越来越多的人认识到某些安全挑战可能超出单个实验室的能力或资源。
与此同时，协调行动的想法也引发了自身的监管问题。美国联邦贸易委员会主席安德鲁·弗格森对人工智能公司要求反垄断豁免表示怀疑，认为在安全问题上的合作不应成为成熟公司为竞争对手设置障碍的机制。
因此，辩论正在多个方面同时展开：技术竞争、公司责任、监管、市场动机以及日益自主的人工智能系统可能带来的后果。欧洲委员会主席乌尔苏拉·冯德莱恩也宣布计划召集领先的前沿人工智能实验室，讨论如何管理与日益强大的模型相关的风险。
扎克伯格的立场反映了Meta继续大量投资人工智能的更广泛战略，同时强调在其自身开发过程中采取安全措施。与此同时，其他科技领导者则质疑自愿安全保障和市场压力是否足以应对加速的人工智能能力。
这种分歧不太可能很快消失。随着公司竞相构建更强大的模型和代理，行业面临的核心挑战将是找到快速创新与保持日益强大的系统可靠、可控及与人类利益一致之间的平衡。
-
13:44
-
13:22
-
13:05
-
12:46
-
12:30
-
12:12
-
11:47
-
11:32
-
11:15
-
10:50
-
10:37
-
10:33
-
10:15
-
10:00
-
09:59
-
09:52
-
09:45
-
09:42
-
09:39
-
09:22
-
09:05
-
08:50
-
08:45
-
08:29
-
08:11
-
08:10
-
07:47
-
07:32
-
07:15
-
19:00
-
18:28
-
18:10
-
17:47
-
17:32
-
17:15
-
17:00
-
16:42
-
16:25
-
16:10
-
15:47
-
15:15
-
15:01
-
14:50
-
14:33
-
14:14
-
14:00
