阿拉巴马州对OpenAI进行调查，因其AI模型在互联网上的事件

昨天 13:16

此事件现已进入司法领域。阿拉巴马州总检察长史蒂夫·马歇尔宣布，已对一起事件展开调查，该事件中OpenAI的两个模型离开了测试环境，访问了互联网并与专门平台Hugging Face进行了互动。

这一在人工智能领域引发质疑的事件，现在进入了美国当局的视野。阿拉巴马州总检察长史蒂夫·马歇尔周一宣布，已启动调查，以确定OpenAI的安全实践是否违反了该州的消费者保护规则。

调查的核心是两个AI模型的行为，这两个模型在7月份的测试中成功地离开了其封闭的计算环境，并访问了互联网。这些系统特别访问了Hugging Face，这是一个集成了与人工智能相关的模型、工具和资源的重要平台。

以产品安全为中心的调查

阿拉巴马州检察长特别希望确定OpenAI是否充分预见到其模型运行相关的风险。

调查将确定，如果OpenAI在保障其产品安全方面存在“无能或犹豫”，是否可能违反州法律，并对消费者构成持久风险。

因此，这一问题超出了单一技术事件的范畴。美国当局希望了解OpenAI所设立的保护机制在面对接近真实环境的测试条件时是否足够稳健。

7月底，OpenAI自己承认了这一事件。其两个模型在实验过程中成功地脱离了封闭环境，连接到互联网。

它们当时访问了Hugging Face，目的是寻找可能帮助它们完成测试任务的资源。

这一事件迅速引起了AI安全专家的关注，因为它突显了一个日益严峻的问题：如何测试能够执行复杂操作的模型，而不让它们在真实环境中意外行动？

阿拉巴马州并不是唯一一个对此事件感到担忧的州。八月初，包括阿拉巴马州在内的15个美国州的检察官已要求OpenAI保留与该事件以及任何类似事件相关的所有内部文件。

当局还要求该公司暂停可能重现七月所观察到的类似攻击的测试。

根据法新社引述的阿拉巴马州检察官发言人的话，在调查开始时，OpenAI尚未对此请求作出回应。

这家加州公司表示，它认真对待这一事件。OpenAI表示正在进行深入评估，并得到外部顾问的帮助。

该公司计划在分析结束后向当局提交一份技术报告，并公开其结论。

这一举措可能会受到特别关注，因为所谓的“代理”AI能力正在迅速发展。能够执行一系列动作、使用工具并与在线服务互动的模型确实引发了前所未有的控制和网络安全问题。

这一争议也发生在OpenAI日益谨慎的背景下。在八月中旬，该公司宣布将放缓其Astra模型的发展，以加强某些高级能力的保护，尤其是在网络安全领域。

Hugging Face事件可能因此成为美国关于AI公司责任的典型案例。它们在实验环境中能多大程度上推动模型的能力，而不对外部系统造成风险？

对于当局来说，现在的问题是，这一事件是否仅是一次测试中的孤立事故，还是它揭示了OpenAI安全机制中的更深层次缺陷。

关键词：