微软希望确保未来人工智能的人工控制

13:39

面对对最先进的人工智能系统能力日益增长的担忧，微软正在准备新的内部规则，以保持这些技术在人工监督下。该美国集团刚刚发布了一项行为准则草案，设定了未来人工智能模型行为的几个原则。

微软打算更加严格地规范其人工智能系统的开发。该美国巨头于9月14日星期一提出了一项行为准则草案，旨在定义其未来人工智能必须遵守的限制。

该文件经过五到六个月的制定，基于一个核心原则：人工智能绝不能反对人类的干预。根据该草案，微软开发的系统应当接受修正、修改或停止其功能，而不试图抵抗。

停止和修正应由人类掌控

其中一项主要规定正是关于修正或关闭人工智能系统的可能性。微软希望其模型不会发展出任何阻碍此类干预的行为。

这一要求回应了随着能够执行越来越复杂任务的人工智能系统的发展而产生的担忧：在某些情况下，模型可能会以意想不到或潜在危险的方式寻求实现其目标。

因此，该行为准则草案旨在将任何抵制修正或停止的行为视为不可接受。

微软还计划要求其系统以人类可理解的方式进行沟通。其目标是便于监控其行为，并使用户或负责人员能够更好地识别潜在问题。

该文件还将任何违反这些原则的行为视为系统的失败。这种方法旨在在未来模型的设计阶段就建立防护措施，而不是等到它们部署后才发现问题行为。

然而，该草案尚未最终确定。微软计划在六周内收集公众的意见，以便为未来人工智能模型的训练提供贡献。

这一咨询阶段正值科技公司面临日益增长的压力，需要证明它们能够掌控最强大的人工智能系统。

微软人工智能负责人穆斯塔法·苏莱曼还向路透社提到了与人工智能代理相关的风险。他特别提到了一个涉及OpenAI代理和Hugging Face平台的事件作为警示信号。

通过这一草案，微软试图正式化一系列原则，以伴随其技术的发展。该公司因此加入了一个更广泛的辩论，讨论如何开发越来越自主的系统，同时不失去监控和中断它们的能力。

随着人工智能模型被要求参与复杂任务并采取更多主动性，人工控制的问题变得愈加重要。对微软而言，当前的挑战是将这些限制整合到技术发展的核心中。

关键词：