突发 12:00 沙特阿拉伯:胡塞导弹袭击损坏利雅得80层PIF大楼 11:45 微软:首席执行官萨提亚·纳德拉解释为何提供6万名员工自愿离职方案 11:30 美国与伊朗紧张关系:内塔尼亚胡 reportedly 呼吁特朗普参与新的军事打击 11:15 特朗普、习近平和普京:在中国举行的前所未有的三方峰会创造历史 10:45 国际足联主席选举:三位候选人将在2027年拉巴特展开激烈角逐 10:30 特朗普与范斯在伊朗问题上的紧张关系:马尔科·鲁比奥有望成为2028年接班人 10:15 埃隆·马斯克为黄仁勋辩护:英伟达的决定如同在迈克尔·乔丹巅峰时期将其替换下场 10:00 Anthropic首次公开募股:公司以每股83美元的价格创造813亿美元的股票市场历史 09:45 特朗普警告伊朗:涉嫌化学和生物武器计划可能引发美国大规模报复 09:30 摩洛哥:残疾人足球队在墨西哥四分之一决赛后瞄准世界杯荣耀 08:45 意大利:犹太政治家因反犹太主义法争议辞去民主党职务 08:30 加沙停火面临威胁:和平委员会指责以色列和哈马斯破坏停火协议 22:00 英国黑客面临法律制裁:GTA 6泄密和1160万美元加密货币盗窃 21:30 山姆·阿尔特曼谈黄仁勋:人工智能产业离不开他 21:00 皇家马德里:阿尔达·居勒续约至2032年,俱乐部确保土耳其明星的未来 20:30 特朗普与BBC:佛罗里达法院延长10亿美元诽谤案的证词截止日期 20:00 欧洲央行:面对不断上升的人工智能网络攻击,需要更强的合作 19:00 优步与Zipline:德克萨斯州无人机食品配送的崛起,预示全国扩张 17:30 中国:北京誓言对美国对先进芯片出口的新限制采取报复措施 17:00 乌克兰战争:俄罗斯指责法国直接军事介入冲突 16:30 iPhone维修争议:苹果将在2027年6月面临巴黎重大法律挑战 15:30 法国内政部长劳伦特·纽涅兹因涉嫌对受伤警察的虚假声明面临法律投诉 15:00 欧盟:委员会提议向乌克兰提供450亿欧元贷款以支持2027年 13:30 国际足联排名:摩洛哥成为非洲和阿拉伯世界排名最高的球队 12:30 法国:费加罗报与OpenAI签署战略合作协议,将其新闻带入ChatGPT

人工智能的恐惧重现,专家辩论炒作与失控的真实风险

星期二 29 九月 2026 - 22:28
人工智能的恐惧重现,专家辩论炒作与失控的真实风险

人工智能再次成为激烈辩论的中心,讨论日益强大的系统是否最终可能逃脱人类的控制。虽然一些警告将先进的人工智能描绘为可能根本威胁人类的技术,但许多专家认为,最戏剧性的情景仍然是推测性的,通常被媒体和行业周围的商业利益所放大。

随着人工智能系统越来越能够处理复杂任务、编写代码、使用数字工具并以更大的自主性运作,这一讨论重新引起了关注。然而,目前这一代系统距离拥有能够控制世界或在没有人类参与的情况下独立重塑自己的能力仍然相去甚远。

因此,一些研究人员区分了真正的技术风险和关于即将发生的人工智能接管的夸大预测。我们的人工智能集体的联合创始人玛丽·艾肯(Mary Aiken)认为,更紧迫的问题可能在于开发和部署这些技术的人,而不是机器独立行动。她认为,目前没有确凿证据表明现有的人工智能模型能够在公众讨论中想象的规模上进行自主自我改进。

经济激励也在塑造辩论中发挥了作用。研究人员指出,关于人工智能的戏剧性预测可以吸引公众关注、投资和政治兴趣,而对即将放缓的警告则可以为在竞争激烈的市场中运营的公司服务不同的战略目的。

萨里大学的物理学家安德鲁·罗戈伊斯基(Andrew Rogoyski)质疑,是否需要越来越大的人工智能模型来满足许多日常应用的需求。随着公司面临提高效率和盈利能力的压力,行业可能越来越关注降低成本和提高现有系统的实用性,而不仅仅是扩大其规模。

这并不意味着长期风险可以被忽视。国际人工智能安全报告指出,目前的人工智能系统没有创造有意义的失控情景所需的能力。与此同时,报告指出,研究人员观察到与未来风险相关的能力的早期迹象,包括更先进的规划、自主操作和试图利用评估系统的弱点。

2026年的报告还强调,专家们在严重失控的可能性上仍然存在分歧。有些人认为这样的情景不太可能,而另一些人则认为它们值得准备,因为其潜在后果可能极为严重。这种分歧在很大程度上反映了对人工智能能力发展速度和未来系统部署方式的不确定性。

另一个重要因素是越来越多的人工智能代理能够在有限的人类干预下行动。这些系统可以执行任务序列、与外部工具互动并在更长时间内做出决策。它们的自主性增加可能会带来新的安全挑战,因为当出现问题时,人类可能有更少的机会进行干预。

因此,辩论不仅限于人工智能是否会突然失控的问题。它还涉及人类应该将多少权力委托给自动化系统、需要什么样的保障措施,以及公司和政府如何监控日益自主的技术。

目前,没有证据表明今天的人工智能系统即将控制社会。但缺乏即时接管并不消除对安全和监督研究的需求。中心挑战在于找到承认真正风险与避免夸大声称之间的平衡,这些夸大声称掩盖了与快速发展的人工智能相关的更具体问题。

随着开发的继续,专家们可能仍然对技术最终能够进展多远存在分歧。更清楚的是,人工智能安全正成为讨论中越来越重要的一部分,特别是当系统从生成信息转向代表用户采取行动时。


  • 黎明祷告
  • 日出
  • 正午祷告
  • 下午祷告
  • 日落祷告
  • 夜祷

阅读更多

本网站 walaw.press 使用 Cookie,以为您提供良好的浏览体验并持续改进我们的服务。继续浏览本网站即表示您同意使用这些 Cookie。