人工智能的恐惧重现，专家辩论炒作与失控的真实风险
人工智能再次成为激烈辩论的中心，讨论日益强大的系统是否最终可能逃脱人类的控制。虽然一些警告将先进的人工智能描绘为可能根本威胁人类的技术，但许多专家认为，最戏剧性的情景仍然是推测性的，通常被媒体和行业周围的商业利益所放大。
随着人工智能系统越来越能够处理复杂任务、编写代码、使用数字工具并以更大的自主性运作，这一讨论重新引起了关注。然而，目前这一代系统距离拥有能够控制世界或在没有人类参与的情况下独立重塑自己的能力仍然相去甚远。
因此，一些研究人员区分了真正的技术风险和关于即将发生的人工智能接管的夸大预测。我们的人工智能集体的联合创始人玛丽·艾肯（Mary Aiken）认为，更紧迫的问题可能在于开发和部署这些技术的人，而不是机器独立行动。她认为，目前没有确凿证据表明现有的人工智能模型能够在公众讨论中想象的规模上进行自主自我改进。
经济激励也在塑造辩论中发挥了作用。研究人员指出，关于人工智能的戏剧性预测可以吸引公众关注、投资和政治兴趣，而对即将放缓的警告则可以为在竞争激烈的市场中运营的公司服务不同的战略目的。
萨里大学的物理学家安德鲁·罗戈伊斯基（Andrew Rogoyski）质疑，是否需要越来越大的人工智能模型来满足许多日常应用的需求。随着公司面临提高效率和盈利能力的压力，行业可能越来越关注降低成本和提高现有系统的实用性，而不仅仅是扩大其规模。
这并不意味着长期风险可以被忽视。国际人工智能安全报告指出，目前的人工智能系统没有创造有意义的失控情景所需的能力。与此同时，报告指出，研究人员观察到与未来风险相关的能力的早期迹象，包括更先进的规划、自主操作和试图利用评估系统的弱点。
2026年的报告还强调，专家们在严重失控的可能性上仍然存在分歧。有些人认为这样的情景不太可能，而另一些人则认为它们值得准备，因为其潜在后果可能极为严重。这种分歧在很大程度上反映了对人工智能能力发展速度和未来系统部署方式的不确定性。
另一个重要因素是越来越多的人工智能代理能够在有限的人类干预下行动。这些系统可以执行任务序列、与外部工具互动并在更长时间内做出决策。它们的自主性增加可能会带来新的安全挑战，因为当出现问题时，人类可能有更少的机会进行干预。
因此，辩论不仅限于人工智能是否会突然失控的问题。它还涉及人类应该将多少权力委托给自动化系统、需要什么样的保障措施，以及公司和政府如何监控日益自主的技术。
目前，没有证据表明今天的人工智能系统即将控制社会。但缺乏即时接管并不消除对安全和监督研究的需求。中心挑战在于找到承认真正风险与避免夸大声称之间的平衡，这些夸大声称掩盖了与快速发展的人工智能相关的更具体问题。
随着开发的继续，专家们可能仍然对技术最终能够进展多远存在分歧。更清楚的是，人工智能安全正成为讨论中越来越重要的一部分，特别是当系统从生成信息转向代表用户采取行动时。
-
22:47
-
22:28
-
22:28
-
22:23
-
22:10
-
21:47
-
21:32
-
21:15
-
20:47
-
20:33
-
20:14
-
19:48
-
19:32
-
19:23
-
19:15
-
19:00
-
18:40
-
18:20
-
17:15
-
17:01
-
16:35
-
16:34
-
16:16
-
15:53
-
15:44
-
15:21
-
15:08
-
15:06
-
15:00
-
14:57
-
14:46
-
14:45
-
14:32
-
14:15
-
14:14
-
14:07
-
13:47
-
13:32
-
13:15
-
12:58
-
12:49
-
12:42
-
12:30
-
12:11
-
12:01
-
11:47
-
11:32
-
11:19
-
11:15
-
11:02
-
10:50
-
10:49
-
10:32
-
10:28
-
10:15
-
10:00
-
09:52
-
09:42
-
09:25
-
09:09
-
08:51
-
08:47
