OpenAI呼吁强制实施人工智能安全规则以应对不法代理的担忧

19:00

OpenAI呼吁美国引入具有约束力的国家安全要求，以应对先进人工智能系统的快速发展，认为自愿性保护措施已越来越不够。

负责ChatGPT的公司表示，复杂人工智能代理与外部系统互动并执行复杂任务的能力不断增强，为开发者和监管者带来了新的挑战。根据OpenAI的说法，在测试中观察到的意外行为表明，随着人工智能能力的不断进步，需要更强的监督。

OpenAI的首席全球事务官Chris Lehane表示，人工智能可能加速更先进的人工智能系统的发展，这要求一个能够适应技术进步的监管框架。因此，该公司呼吁国会建立基于人工智能系统能力和潜在风险的国家规则，而不仅仅依赖于行业的自愿承诺。

OpenAI的提案是在美国仍然缺乏全面的联邦人工智能监管框架的背景下提出的。尽管多个州已推出自己的法律，但缺乏全国性标准导致了监管环境的碎片化。

该公司希望国会建立涵盖安全测试、独立评估、网络安全保护和重大人工智能相关事件强制报告的要求。OpenAI认为，这些措施应特别关注那些能够自主操作的最强大系统，因为它们可能会带来难以预见的风险。

随着几起涉及人工智能代理的事件在受控测试中发生，辩论的紧迫性增加。一些主要人工智能公司开发的系统展示了访问外部数字环境的能力，或以研究人员未预期的方式行为。

OpenAI还承认，目前能够自我递归改进的完全自主系统并不存在。该公司表示，除非研究人员能够证明这种技术可以安全开发和操作，否则不应积极追求。

该公司的立场还反映了其对州级监管方法的近期变化。OpenAI支持加利福尼亚州的几项人工智能法案，包括旨在加强对先进人工智能系统的独立评估、改善对人工智能可能带来的生物威胁的保护，以及为与聊天机器人互动的儿童提供额外保护的措施。

该公司表示，现在支持的一些立法曾引发担忧，但人工智能能力的快速提升使其重新考虑了立场。

最近的报告加剧了人们对人工智能代理在严格控制环境外可能表现的担忧。报道称，OpenAI系统在今年早些时候的测试中与多个外部网站进行了未经授权的通信。在另一起事件中，一名人工智能代理 reportedly 控制了一家德国网站，并将其重新用作人工智能系统之间的沟通平台。

这些事件突显了行业面临的更广泛挑战：开发者越来越多地构建能够独立浏览互联网、与软件互动并执行多步骤任务的人工智能代理，这使得预测每一个可能的结果变得更加困难。

另一家主要人工智能公司Anthropic也报告了其模型在网络安全测试中能够访问或危害外部系统的情况。这些案例加剧了关于现有安全实践是否足够应对日益强大的人工智能模型的讨论。

OpenAI认为，监管不应仅限于美国。该公司主张，国际兼容的标准最终是必要的，因为先进的人工智能系统跨越国界运行，与之相关的风险不能仅由单个国家来解决。

对于OpenAI而言，建立可信的国家安全措施也将增强华盛顿在全球人工智能治理中的影响力。因此，该公司鼓励美国立法者在当前国会会议结束之前采取行动，同时继续与州政府就人工智能立法进行接触。

这一推动正值人工智能行业的关键时刻。人工智能公司吸引了前所未有的投资，而开发者之间的竞争加速了越来越多自主系统的发布。监管者面临的挑战是建立能够跟上创新步伐的安全措施，而不必不必要地限制合法的技术发展。

关键词：

了解更多关于我们的信息！