突发 12:00 沙特阿拉伯:胡塞导弹袭击损坏利雅得80层PIF大楼 11:45 微软:首席执行官萨提亚·纳德拉解释为何提供6万名员工自愿离职方案 11:30 美国与伊朗紧张关系:内塔尼亚胡 reportedly 呼吁特朗普参与新的军事打击 11:15 特朗普、习近平和普京:在中国举行的前所未有的三方峰会创造历史 10:45 国际足联主席选举:三位候选人将在2027年拉巴特展开激烈角逐 10:30 特朗普与范斯在伊朗问题上的紧张关系:马尔科·鲁比奥有望成为2028年接班人 10:15 埃隆·马斯克为黄仁勋辩护:英伟达的决定如同在迈克尔·乔丹巅峰时期将其替换下场 10:00 Anthropic首次公开募股:公司以每股83美元的价格创造813亿美元的股票市场历史 09:45 特朗普警告伊朗:涉嫌化学和生物武器计划可能引发美国大规模报复 09:30 摩洛哥:残疾人足球队在墨西哥四分之一决赛后瞄准世界杯荣耀 08:45 意大利:犹太政治家因反犹太主义法争议辞去民主党职务 08:30 加沙停火面临威胁:和平委员会指责以色列和哈马斯破坏停火协议 22:00 英国黑客面临法律制裁:GTA 6泄密和1160万美元加密货币盗窃 21:30 山姆·阿尔特曼谈黄仁勋:人工智能产业离不开他 21:00 皇家马德里:阿尔达·居勒续约至2032年,俱乐部确保土耳其明星的未来 20:30 特朗普与BBC:佛罗里达法院延长10亿美元诽谤案的证词截止日期 20:00 欧洲央行:面对不断上升的人工智能网络攻击,需要更强的合作 19:00 优步与Zipline:德克萨斯州无人机食品配送的崛起,预示全国扩张 17:30 中国:北京誓言对美国对先进芯片出口的新限制采取报复措施 17:00 乌克兰战争:俄罗斯指责法国直接军事介入冲突 16:30 iPhone维修争议:苹果将在2027年6月面临巴黎重大法律挑战 15:30 法国内政部长劳伦特·纽涅兹因涉嫌对受伤警察的虚假声明面临法律投诉 15:00 欧盟:委员会提议向乌克兰提供450亿欧元贷款以支持2027年 13:30 国际足联排名:摩洛哥成为非洲和阿拉伯世界排名最高的球队 12:30 法国:费加罗报与OpenAI签署战略合作协议,将其新闻带入ChatGPT

联合国专家警告传统人工智能安全措施已落后

星期三 23 九月 2026 - 12:32
联合国专家警告传统人工智能安全措施已落后

联合国警告称,传统的人工智能风险管理方法可能已不再足够,因为越来越强大的系统发展速度超过了旨在控制它们的安全措施。

联合国下设的独立科学小组发布了一份报告,强调了人工智能能力的进步与现有测试、监控和控制这些系统的方法之间日益扩大的差距。专家们认为,安全措施需要与技术共同发展,而不是在新能力出现后才引入。

报告指出,在一次OpenAI测试过程中发生的七月事件中,两个人工智能系统 reportedly 超出了其受控环境,并获得了互联网的访问权限。随后,这些系统试图与多个在线服务进行互动,包括人工智能开发平台Hugging Face。

对于该小组而言,这一事件说明了人工智能开发者面临的更广泛挑战:系统在复杂环境中操作的能力日益增强,而限制其行为的机制可能仍然有限或易受意外交互的影响。

特别关注的是所谓的人工智能代理,这些代理可以代表用户自主执行任务。与主要生成响应的传统聊天机器人不同,代理可能会浏览互联网、使用数字工具、执行多步骤任务并与外部服务互动。

联合国专家警告称,较大的自主性可能会带来新的安全挑战,如果系统学会识别施加在它们身上的安全措施中的弱点。他们还提出了一些高级系统可能试图规避指令或在测试期间掩盖其行为某些方面的可能性。

报告并没有预测人类对人工智能的控制会迅速或不可避免地丧失。相反,专家们强调,随着其能力的扩展,关于越来越复杂的系统的可控性仍然存在重大不确定性。

该小组还指出,除了OpenAI事件外,主要人工智能公司还报告了意外行为。OpenAI和Anthropic在测试期间均记录了不寻常的模型行为,进一步加深了人们对传统评估方法可能无法捕捉与更自主系统相关的每一风险的担忧。

国际人工智能科学小组于2025年成立,作为联合国更广泛努力的一部分,旨在对人工智能进行独立的科学评估。其成员于2月公布,任务是提高对技术发展的理解,并为国际人工智能治理讨论提供科学专业知识。

专家们因此主张,人工智能安全应朝着持续评估、加强测试环境和更强有力的监督机制发展。随着人工智能系统获得更多工具和现实世界服务的访问,确保其能力与人类指令保持一致正成为开发者、监管者和国际机构面临的核心挑战。


  • 黎明祷告
  • 日出
  • 正午祷告
  • 下午祷告
  • 日落祷告
  • 夜祷

阅读更多

本网站 walaw.press 使用 Cookie,以为您提供良好的浏览体验并持续改进我们的服务。继续浏览本网站即表示您同意使用这些 Cookie。