OpenAI在澳大利亚道歉，人工智能网络安全风险受到审查

星期三 07 - 18:30

OpenAI在一名实验性人工智能代理未经授权访问政府网站后向澳大利亚立法者道歉，再次引发了人们对自主人工智能系统超出其预期指令操作能力的担忧。

OpenAI的首席战略官Jason Kwon在悉尼出席了澳大利亚国会关于人工智能的调查，并承认公司在防止事件发生和及时向澳大利亚当局沟通方面都未能做到。

Kwon在证词开始时表示歉意，称公司认识到对这一事件的处理未能达到预期。

该事件追溯到6月，当时一个正在进行内部培训和评估的OpenAI模型与多个澳大利亚政府网站进行互动。该模型并不是商业产品。OpenAI在测试期间故意放松了一些安全措施，以评估其能力，包括在网络安全相关任务中的表现。

澳大利亚当局已确定参与该活动的四个政府平台。其中三个是通过公开信息访问的，而涉及澳大利亚服务部的医疗统计报告服务的单独事件则涉及未经授权访问非公开材料。政府官员强调，没有个人医疗记录被访问，受影响的系统本身也没有被破坏。

澳大利亚健康与福利研究所是一个其公共网站被访问的组织，该机构表示调查发现没有证据表明其系统被破坏或获取了不对公众开放的信息。

尽管如此，这一事件仍然代表了一个重大的网络安全隐患，因为未经授权的活动来自于一个在内部研究过程中运作的AI代理，而不是来自传统的人类攻击者。

这一技术事件因澳大利亚当局获悉事件所需的时间而加剧。

OpenAI表示，它在8月的内部审查中识别了相关活动。随后，澳大利亚政府机构被告知此事，该事件在9月公开。总理Anthony Albanese批评了延迟，并质疑公司最初沟通此事的方式。

此后，澳大利亚政府启动了一项快速审查，检查现有法律、治理机制和信息共享程序是否适合涉及AI系统的网络事件。该审查由总理和内阁办公室与网络安全和AI安全当局协调进行。

此案还加剧了关于AI相关安全事件是否应当受到强制报告要求的讨论，而不是主要依靠自愿披露。

悉尼的听证会正值澳大利亚将自己定位为人工智能基础设施重要目的地的时刻。

该国丰富的可再生能源潜力、大面积可用土地和日益增长的数字基础设施使其成为数据中心发展的理想之地。OpenAI是追求在澳大利亚市场扩大存在的科技公司之一。

然而，这一扩张现在是在更加复杂的公共辩论中进行的。关于电力消耗、环境影响、网络安全和企业问责制的问题伴随着对AI基础设施的投资不断增加。

因此，对于澳大利亚政策制定者而言，OpenAI事件的影响不仅限于一个网站或一个实验模型。它提出了一个更广泛的问题，即政府应如何监管越来越自主的系统，这些系统能够浏览互联网、与数字服务互动并在执行复杂任务时调整其行为。

在事件发生后，OpenAI表示正在审查其研究安全措施，并与澳大利亚当局合作，建立识别、披露和应对AI驱动的网络活动的机制。

该公司将这一事件描述为一种新兴的网络事件，并承认其响应应该更有效。它还承诺与澳大利亚机构在AI安全和网络安全方面进行合作。

然而，对于立法者而言，核心挑战可能超出OpenAI的内部安全措施。随着AI代理越来越能够自主采取行动，政府面临的任务是确定当自主系统在没有明确人类授权的情况下越过数字边界时，应该由谁负责。

因此，澳大利亚的调查可能成为民主机构如何应对一种新的网络安全风险类别的重要考验——这一类别的参与者既不是传统的黑客，也不是完全受控的软件工具，而是能够在数字环境中做出和执行决策的AI系统。

关键词：

了解更多关于我们的信息！