OpenAI 破坏了大规模复制 ChatGPT 能力的尝试
OpenAI 表示，它已破坏了一项旨在提取其人工智能模型输出的大规模操作，以通过一种称为模型蒸馏的技术重现其某些能力。该公司表示，此活动涉及数千个账户，并在调查人员识别出协调使用模式后被发现并停止。
模型蒸馏是一种在人工智能研究中广泛使用的合法技术。它允许开发人员使用大型系统生成的信息来训练更小或更高效的模型。然而，OpenAI 表示，同样的方法可以在未经授权的情况下使用，以重现通过大量计算资源、训练数据和研究进行开发的能力。
根据 OpenAI 的说法，该活动于七月以有限规模开始，然后通过一个协调的账户网络扩展。该公司表示，它识别出与该操作相关的超过 15,000 个账户，并随后暂停了它认为参与提取和重用模型能力的账户。
OpenAI 将部分活动与 Moonshot AI 关联，该公司是 Kimi AI 助手的中国开发者，同时强调尚未确定该公司是否对整个操作负责。这些指控是在美国对中国人工智能公司使用模型蒸馏的审查日益加剧之际提出的。美国官员还指控包括 Moonshot AI 在内的几家中国公司使用蒸馏技术重现由美国人工智能公司开发的能力。中国对此类指控表示拒绝，并辩称蒸馏是人工智能开发中的标准技术。
这一问题超越了商业竞争。OpenAI 认为，未经授权提取先进模型能力也可能带来安全隐患，因为系统可能在不包含与原始模型一起开发的安全措施和对齐措施的情况下重现强大的能力。该公司之前曾将对抗性蒸馏描述为潜在的商业、安全和战略风险。
OpenAI 表示，它通过关闭可疑账户、加强监控系统和解决可能促进该活动的漏洞来做出回应。该公司还表示，它与外部服务提供商合作，破坏与该操作相关的账户和基础设施，并与其他科技公司和政府分享相关发现。
这一事件突显了保护前沿人工智能模型日益困难，因为开发人员越来越依赖自动化系统、大规模 API 访问和合成数据。OpenAI 表示，其检测工作现在结合了自动分类器、行为分析、技术监控和人工调查，以识别系统性重现模型能力的尝试。
该公司预计，随着人工智能系统的改进，此类尝试将变得更加复杂。这场争端也反映了行业面临的更广泛挑战：平衡合法研究与人工智能能力的广泛传播，同时保护专有技术和围绕日益强大的模型的安全措施。
OpenAI 表示，它将继续加强监控和安全措施，同时鼓励人工智能公司与政府当局之间在技术发展过程中进行更多信息共享。
-
17:16
-
17:02
-
16:57
-
16:51
-
16:38
-
16:30
-
16:04
-
15:41
-
15:27
-
14:49
-
14:35
-
14:22
-
12:56
-
12:47
-
12:29
-
11:53
-
11:15
-
11:01
-
10:24
-
10:11
-
10:04
-
09:53
-
09:40
-
09:30
-
09:28
-
09:19
-
09:03
-
08:55
-
08:51
-
08:46
-
08:45
-
08:42
-
08:37
-
08:36
-
08:36
-
08:09
-
08:07
-
08:05
-
22:38
-
21:31
-
21:11
-
21:05
-
20:01
-
19:49
-
19:36
-
18:45
-
18:22
-
17:20
