马斯克呼吁竞争对手AI公司相互测试模型

16:00

马斯克提出了一种新的人工智能安全方法，要求主要的AI开发者在广泛向公众发布之前相互测试彼此的模型。随着对日益强大的AI系统相关风险的担忧加剧，以及仅通过内部测试识别潜在漏洞的困难，这一想法应运而生。

在洛杉矶的All-In峰会上，马斯克建议美国和中国的领先AI公司应允许竞争对手访问他们的模型，以进行独立的安全评估。在这种系统下，竞争的开发者能够检查其他公司开发的模型，识别弱点并在技术达到更广泛的用户基础之前报告潜在风险。

马斯克提议中提到的公司包括OpenAI、Anthropic、Google、Meta以及他自己的AI公司xAI，还有几家主要的中国开发者。该倡议实际上会在AI安全测试中引入一种同行评审的形式，竞争的实验室将审查在其组织外开发的系统。

马斯克认为，仅依赖公司的内部安全团队可能会导致某些漏洞未被发现。他建议，竞争对手的外部测试可以提供不同的视角，揭示开发者在自己评估过程中可能忽视的弱点。

这一提议反映了技术行业内部关于在部署之前应如何评估先进AI系统的更广泛辩论。随着模型变得越来越强大，并越来越多地融入商业、软件、教育和其他领域，研究人员和政策制定者一直在研究如何改善安全测试并建立更明确的评估潜在风险的标准。

AI开发者已经使用一系列技术来评估他们的系统，包括红队演习、对抗性测试和外部研究人员的评估。然而，这些评估的范围和方法在不同公司之间差异很大。马斯克的提议将进一步推动使主要竞争者之间的直接测试成为开发过程的更系统部分。

这样的安排可以为具有先进能力的模型提供额外的审查层。竞争者可能有动力积极寻找缺陷，因为他们熟悉开发类似系统的技术挑战，并可能从不同的角度进行测试。

与此同时，实施这一想法将面临重大实际挑战。AI公司在市场份额、人才和技术优势方面竞争激烈，因此不愿意让竞争对手访问其专有模型。关于知识产权、网络安全、保密培训方法和商业敏感信息潜在披露的担忧也需要得到解决。

另一个挑战是建立共同的测试规则。公司需要就可以共享的信息、如何控制访问、适用哪些安全标准以及如何报告漏洞达成一致。如果竞争测试打算在决定AI模型是否准备好公开部署中发挥正式作用，独立监督也可能变得必要。

这一提议还突显了尽管存在激烈的商业竞争，AI公司之间合作的重要性。主要开发者正在竞争构建越来越强大的模型，同时面临来自政府、研究人员和民间社会的压力，要求证明他们的系统可以负责任地部署。

跨公司测试并不会消除对内部安全团队或独立研究的需求。相反，它可能通过在先进模型广泛可用之前增加另一层审查来补充现有的评估方法。

因此，马斯克的提议进一步扩展了关于AI行业应如何管理快速技术发展相关风险的讨论。主要的美国和中国公司是否愿意参与基于互访和竞争测试的系统仍然是一个悬而未决的问题，但这一想法强调了对更广泛和更独立的安全评估日益重视。

关键词：

了解更多关于我们的信息！