联合国警告人工智能在自主武器发展中增加的风险

昨天 14:40

人工智能迅速融入军事行动，引发了关于人类对战争控制的紧迫问题，促使联合国研究所呼吁加强国际合作和更有效的监管保障。

联合国裁军研究所（UNIDIR）主任罗宾·盖斯周一在纽约联合国总部警告说，技术进步使得越来越自主的战争的前景越来越近。他强调的核心挑战是确定机器是否应该被允许选择人类目标并做出导致死亡的决策。

他的警告正值人工智能越来越深入军事能力之中，从情报评估和目标识别到无人机操作、网络攻击和影响活动。

更快的军事决策引发升级担忧

人工智能在防御系统中的日益使用正在改变军事决策的速度。然而，这种加速也带来了风险，特别是在人工操作员有更少的时间来评估信息、挑战自动化建议或在行动执行前进行干预时。

根据盖斯的说法，错误和误解可能会导致严重后果，尤其是在自动化系统在涉及不确定性或加剧的地缘政治紧张局势的情况下操作时。

风险不仅限于常规战场。在与核相关的情境中，承受严重时间压力下做出的决策可能会导致误判和升级，使自动化与人类判断之间的关系成为一个主要的国际安全问题。

因此，辩论超越了技术创新。它提出了关于问责制、机器自主权的限制以及当人工智能支持的军事系统造成伤害时国家的责任的根本问题。

UNIDIR扩大国际合作倡议

针对这些挑战，UNIDIR在日内瓦建立了一个关于人工智能、和平与安全的卓越中心。该倡议旨在加强专业知识并支持关于人工智能对冲突预防、裁军和全球稳定影响的国际讨论。

该研究所还在纽约准备了多个倡议，以鼓励政府、科技公司、研究人员和其他利益相关者之间的对话。

计划中的措施包括一个多利益相关者论坛、一个促进科技公司负责任行为的自愿框架，以及一个旨在澄清军事自主权和安全相关术语的共同词汇表。

建立共享定义是该过程的重要组成部分，因为政府和技术专家需要一个共同的词汇来讨论日益复杂的军事系统的能力、局限性和风险。

非国家行为者带来另一个安全挑战

UNIDIR还在研究非国家武装团体、犯罪网络和恐怖组织对人工智能的潜在滥用。

可获得的人工智能技术的传播可能会创造额外的安全挑战，如果这些行为者利用它们来支持恶意活动。应对这些威胁需要国际协调以及发展军事和民用技术的负责任做法的努力。

该研究所还计划为2027年6月在日内瓦举行的人工智能峰会做准备，提供另一个机会来解决新兴技术、和平与国际安全之间的关系。

裁军周对军事人工智能进行审查

盖斯的言论正值联合国裁军周即将到来，该活动从10月24日至30日举行。该年度倡议自1995年设立，旨在提高公众对裁军问题及其更广泛意义的认识和理解。

人工智能在军事中的日益使用使这些讨论更加紧迫，特别是因为技术发展继续超越国际努力建立共同保障的步伐。

对于联合国来说，挑战在于鼓励创新，同时不让武器系统的日益自主性削弱人类责任、国际稳定和保护平民的能力。

随着各国政府和科技公司探索新的人工智能能力，关于机器在武装冲突中应行使多少权威的辩论正日益成为全球外交的重要议题。

关键词：

了解更多关于我们的信息！