联合国呼吁对先进人工智能带来的前所未有风险采取紧急行动

昨天 08:44

联合国呼吁国际社会紧急采取行动，以应对日益先进的人工智能所带来的风险，并警告称，自动化系统的快速发展可能会对技术领域以外的后果产生影响。

联合国人权事务高级专员沃尔克·图尔克周一表示，世界正接近一种潜在的不可逆转的转变，并敦促各国政府和科技公司共同努力，建立更强有力的先进人工智能系统监管框架。

图尔克警告称，先进人工智能的影响可能会影响基本人权，包括生命权、食物权、隐私权、健康权和安全权。他呼吁采取与技术相关的前所未有风险相称的紧急响应。

根据联合国人权首席的说法，目前竞争建立越来越强大的人工智能系统的竞赛代表了一种深刻的转变，因为它开始影响人类生活的几乎每一个方面。他认为，关于人工智能未来的决策不应几乎完全掌握在少数强大的科技公司手中。

所谓的代理人工智能的快速发展为辩论增添了另一个维度。与主要响应用户指令的传统人工智能工具不同，代理系统旨在以更大的自主性执行任务。

图尔克警告称，涉及此类系统的故障可能会干扰基本服务，打断通信，破坏关键基础设施，并削弱民主机构。

他警告称，后果可能延伸到基本生活必需品，整个社会可能面临饮用水、供暖和金融服务的中断，如果关键的依赖人工智能的基础设施受到严重损害。

联合国官员还对人工智能在武装冲突中日益增长的作用表示担忧。自主和半自主技术越来越多地被纳入军事行动，引发了关于人类监督及用于防止大规模杀伤性武器使用或升级的保障措施的问题。

图尔克的警告正值人工智能发展速度的担忧在科技行业内部加剧。该行业一些最知名的领导者最近表示，公司和政府应考虑放缓日益强大的系统的发展，以便让安全措施跟上。

Anthropic首席执行官达里奥·阿莫代伊呼吁协调放缓，以给研究人员和政策制定者更多时间来理解新出现的风险。他的立场得到了OpenAI首席执行官萨姆·阿尔特曼和埃隆·马斯克的公开支持。

然而，这场辩论暴露了政府应如何应对的明显分歧。美国总统唐纳德·特朗普及其政治圈内的几位人物反对放缓人工智能发展的呼吁，认为保持美国在该领域的领导地位在战略上至关重要。

因此，人工智能不仅成为技术和经济问题，也是一个重大地缘政治问题。各国政府在先进计算、半导体和人工智能研究领域竞争领导地位，同时面临着建立防范潜在滥用的保障措施的压力。

对于联合国而言，挑战在于确保技术进步不会超过政府和机构保护基本权利的能力。

因此，关于先进人工智能的辩论正在超越创新和生产力的问题。随着自主系统变得更加强大，并越来越多地融入关键基础设施、医疗保健、金融、通信和安全，故障的后果可能变得更加广泛。

图尔克的呼吁强调国际合作，认为各国政府和公司需要在技术发展超出有效监管之前，建立关于先进人工智能的明确规则。

政策制定者面临的核心问题不再仅仅是人工智能能变得多强大，而是人类能否在其最先进的系统开始影响关键决策和基础设施之前建立足够的保障措施，这种影响是难以逆转的。

关键词：

了解更多关于我们的信息！