人工智能领域顶尖专家推迟人工智能毁灭人类的预测时间表
一位人工智能领域的顶尖专家推迟了他此前预测的人工智能毁灭人类的时间表，称人工智能系统需要比他最初预测的更长的时间才能实现自主编码，从而加速自身向超级智能发展。
丹尼尔·科科塔伊洛（Daniel Kokotajlo）曾是OpenAI的员工，他在今年4月发布了《人工智能2027》（AI 2027）一文，引发了一场激烈的辩论。该文设想，不受控制的人工智能发展将导致超级智能的出现，而超级智能在智胜世界各国领导人后，最终毁灭人类。
这一设想迅速赢得了支持者和反对者的青睐。美国副总统约翰·万斯（JD Vance）在去年5月的一次采访中，谈到美国与中国的人工智能军备竞赛时，似乎提到了《人工智能2027》。纽约大学神经科学荣誉教授加里·马库斯（Gary Marcus）称这篇文章是“虚构作品”，并称其部分结论是“纯粹的科幻胡言乱语”。
变革性人工智能（有时被称为通用人工智能，或能够替代人类完成大多数认知任务的人工智能）的时间表已成为人工智能安全领域关注的焦点。2022 年 ChatGPT 的发布极大地加快了这些时间表的制定，官员和专家预测 AGI 将在几十年或几年内到来。
Kokotajlo 和他的团队将 2027 年定为人工智能实现“完全自主编码”的年份，但他们表示这只是一个“最有可能”的预测，他们中的一些人给出了更长的时间表。如今，人们似乎开始对 AGI 的紧迫性以及这个术语本身是否有意义产生一些疑问。
“过去一年，许多人都在推迟他们的时间表，因为他们意识到人工智能的性能波动很大，”人工智能风险管理专家、《国际人工智能安全报告》的作者之一 Malcolm Murray 表示。
“要实现像‘人工智能2027’这样的愿景，人工智能需要掌握更多在现实世界复杂环境中实用的技能。我认为人们开始意识到现实世界中存在的巨大惯性，这将延缓社会的彻底变革。”
“‘通用人工智能’（AGI）这个词在很久以前才有意义，那时人工智能系统还很狭隘——比如只会下棋和围棋，”法国人工智能非营利组织SaferAI的执行董事亨利·帕帕达托斯（Henry Papadatos）说道。“现在我们已经拥有了相当通用的系统，这个词的意义已经不如以前了。”
科科塔伊洛（Kokotajlo）的“人工智能2027”愿景基于这样的理念：到2027年，人工智能代理将完全自动化编码和人工智能研发，从而引发“智能爆炸”。在这种爆炸中，人工智能代理会创造出越来越智能的自身版本，然后——在一种可能的结局中——到2030年中期，为了给更多的太阳能电池板和数据中心腾出空间，人工智能代理会消灭所有人类。
然而，在他们的最新预测中，Kokotajlo 和他的合作者们修正了他们对人工智能何时能够自主编程的预期，认为这更有可能在 2030 年代初期发生，而不是 2027 年。新的预测将 2034 年设定为“超级智能”的新纪元，并且没有预测人工智能何时会毁灭人类。
“人工智能的发展速度似乎比 2027 年的设想要慢一些。我们发表预测时的时间线比 2027 年要长，现在又更长了，”Kokotajlo 在 X 杂志上发表的一篇文章中写道。
创造能够进行人工智能研究的人工智能仍然是领先的人工智能公司的重要目标。OpenAI 的首席执行官 Sam Altman 在 10 月份表示，到 2028 年 3 月拥有一个自动化的人工智能研究员是该公司的“内部目标”，但他补充说：“我们可能完全无法实现这个目标。”
布鲁塞尔人工智能政策研究员安德烈亚·卡斯塔尼亚表示，通用人工智能（AGI）的宏伟时间表无法解决诸多复杂问题。“拥有专注于军事活动的超级智能计算机并不意味着我们可以将其融入过去20年来制定的战略文件中。”
“人工智能发展得越快，我们就越发现，世界并非科幻小说。世界远比这复杂得多。”
-
19:00
-
18:28
-
18:10
-
17:47
-
17:32
-
17:15
-
17:00
-
16:42
-
16:25
-
16:10
-
15:47
-
15:15
-
15:01
-
14:50
-
14:33
-
14:14
-
14:00
-
13:42
-
13:24
-
13:13
-
13:10
-
12:47
-
12:30
-
12:12
-
11:48
-
11:33
-
11:15
-
11:00
-
10:42
-
10:22
-
10:05
-
09:45
-
09:44
-
09:35
-
09:24
-
09:09
-
08:44
-
08:26
-
08:10
-
07:47
-
07:32
-
07:15
