突发 10:30 特朗普与范斯在伊朗问题上的紧张关系:马尔科·鲁比奥有望成为2028年接班人 10:15 埃隆·马斯克为黄仁勋辩护:英伟达的决定如同在迈克尔·乔丹巅峰时期将其替换下场 10:00 Anthropic首次公开募股:公司以每股83美元的价格创造813亿美元的股票市场历史 09:45 特朗普警告伊朗:涉嫌化学和生物武器计划可能引发美国大规模报复 09:30 摩洛哥:残疾人足球队在墨西哥四分之一决赛后瞄准世界杯荣耀 08:45 意大利:犹太政治家因反犹太主义法争议辞去民主党职务 08:30 加沙停火面临威胁:和平委员会指责以色列和哈马斯破坏停火协议 22:00 英国黑客面临法律制裁:GTA 6泄密和1160万美元加密货币盗窃 21:30 山姆·阿尔特曼谈黄仁勋:人工智能产业离不开他 21:00 皇家马德里:阿尔达·居勒续约至2032年,俱乐部确保土耳其明星的未来 20:30 特朗普与BBC:佛罗里达法院延长10亿美元诽谤案的证词截止日期 20:00 欧洲央行:面对不断上升的人工智能网络攻击,需要更强的合作 19:00 优步与Zipline:德克萨斯州无人机食品配送的崛起,预示全国扩张 17:30 中国:北京誓言对美国对先进芯片出口的新限制采取报复措施 17:00 乌克兰战争:俄罗斯指责法国直接军事介入冲突 16:30 iPhone维修争议:苹果将在2027年6月面临巴黎重大法律挑战 15:30 法国内政部长劳伦特·纽涅兹因涉嫌对受伤警察的虚假声明面临法律投诉 15:00 欧盟:委员会提议向乌克兰提供450亿欧元贷款以支持2027年 13:30 国际足联排名:摩洛哥成为非洲和阿拉伯世界排名最高的球队 12:30 法国:费加罗报与OpenAI签署战略合作协议,将其新闻带入ChatGPT 12:00 以色列:内塔尼亚胡考虑与加迪·艾森科特组建联合政府 11:45 特朗普宣布与菲律宾达成新的贸易协议:农业和能源为重点

人工智能会威胁人类吗?研究人员辩论风险

星期三 23 九月 2026 - 18:15
人工智能会威胁人类吗?研究人员辩论风险

随着人工智能系统变得越来越强大,并逐渐融入社会的关键领域,研究人员正在辩论这项技术是否最终会在全球范围内带来风险。虽然一些专家认为涉及人类灭绝的情景高度投机,但其他人则认为快速发展的人工智能需要认真准备和更强的保护措施。

辩论集中在几条可能导致灾难的途径上。这些包括滥用人工智能开发生物或网络武器,将先进系统整合到军事决策中,以及高度自主的人工智能可能以人类无法有效控制的方式行事。

核武器是一个令人担忧的领域。兰德研究人员研究了人工智能如何通过意外、误判或故意升级增加核冲突的风险。潜在的危险不一定来自人工智能独立决定发起攻击,而是来自人类决策者在评估军事威胁时依赖有缺陷或被妥协的人工智能系统。

生物威胁也已成为讨论的重要部分。人工智能可以帮助科学家处理与生物学和药物发现相关的任务,但类似的能力理论上也可能被滥用,以促进危险病原体的发展。兰德已确定未来先进系统可能增加恶意行为者设计或支持生物和化学威胁的能力。

网络安全则是另一个可能导致大规模破坏的途径。更强大的人工智能代理可以自动化复杂的数字任务,识别软件漏洞,并以更大的自主性运作。Anthropic已承认,增强代理能力也增加了它们的潜在“爆炸半径”,使得遏制和访问控制成为人工智能安全的重要组成部分。

也许最受争议的情景涉及研究人员所称的失控或不对齐。在这种情况下,先进的人工智能系统不一定具有恶意意图。相反,它可能以与人类利益相冲突的方式追求目标,尤其是在获得更大自主权、访问数字系统或绕过保护措施的能力时。

经典的“回形针最大化者”思想实验说明了这一担忧。在这个假设情景中,一个被指示最大化回形针生产的高能力系统可能会追求该目标,而不理解应约束其行为的更广泛人类价值观。这个例子并不是对现有人工智能系统的预测,而是对控制日益强大的技术所涉及困难的哲学说明。

人工智能公司在如何描述这些风险方面存在差异,但一些公司正在大力投资于旨在防止灾难性结果的研究。Anthropic当前的安全框架将生物威胁、网络风险、失控和人工智能系统加速自身研究与开发识别为需要持续关注的领域。该公司还表示,这些风险中的一些仍然不确定,需要进一步研究。

与此同时,科学界并没有达成共识,认为人工智能将不可避免地导致人类灭绝。兰德强调了对灾难性人工智能风险规模的持续分歧和不确定性,研究人员在极端情景的概率和未来系统可能获得的能力上存在不同看法。

因此,中心问题不仅仅是人工智能是否会摧毁人类,而是社会如何在这些系统的能力超过现有保护措施之前管理日益强大的系统。对于研究人员、政府和科技公司来说,理解当前模型的局限性,同时为更先进的系统做好准备,已成为更广泛人工智能辩论中越来越重要的一部分。


  • 黎明祷告
  • 日出
  • 正午祷告
  • 下午祷告
  • 日落祷告
  • 夜祷

阅读更多

本网站 walaw.press 使用 Cookie,以为您提供良好的浏览体验并持续改进我们的服务。继续浏览本网站即表示您同意使用这些 Cookie。