亨娜·维尔库宁呼吁人工智能公司加强测试和人类监督

星期四 15 - 18:15

欧盟警告称，全球人工智能竞争的加剧可能会削弱确保先进人工智能系统安全性和可靠性的努力，呼吁开发者在技术能力不断增长的同时保持对其技术的有效控制。

欧盟委员会负责技术主权、安全与民主的执行副主席亨娜·维尔库宁在都柏林举行的国际人工智能峰会上提出了这一担忧。她认为，竞争压力可能使公司在部署之前没有足够的时间和资源来测试他们的模型。

这一警告正值越来越复杂的人工智能系统为开发者和监管者带来新挑战，尤其是当自主代理能够执行其操作员难以预见或监控的行为时。

能力的增长引发新的安全担忧

维尔库宁表示，涉及人工智能代理的事件报告突显了公司对其系统行为并不完全了解的情况。她强调，开发者必须保留理解和控制其技术行为的能力。

随着人工智能模型能力的增强，评估其性能和识别潜在风险也变得更加复杂。根据欧盟委员会官员的说法，这使得全面测试和独立专家评估成为负责任开发的重要组成部分。

她的言论指出了日益增长的监管担忧：人工智能产品的开发和推出速度可能超过了确定其在各种条件下安全运行所需的时间。

对监管者而言，挑战不仅在于鼓励创新，还在于确保公司在这些技术被广泛使用之前能够展示对其系统的充分理解。

欧盟委员会已经开始向主要人工智能公司寻求有关他们所采取的安全措施的进一步信息。根据维尔库宁的说法，这些请求涵盖了安全措施、安全安排和外部评估程序。

这一倡议是欧盟更广泛努力的一部分，旨在让人工智能开发者对他们构建和部署的系统承担更多责任。

根据欧盟的《人工智能法》，该地区建立了一个监管框架，以应对与人工智能应用相关的风险。该立法还为审查超出技术安全的问题提供了基础，包括遵守版权规则。

维尔库宁强调，保持对人工智能系统的控制是该立法的明确要求，强化了委员会的立场，即技术进步必须伴随有效的安全保障。

欧盟的担忧反映了政策制定者和技术行业面临的困难平衡。公司在国际上竞争开发越来越强大的模型，而政府则在寻求确保这些系统将保持可管理、可靠并符合适用规则的保证。

不足的测试可能使在部署之前识别脆弱性变得更加困难，特别是在设计用于有限直接人类干预的任务的系统中。独立评估可以帮助识别内部测试可能忽视的弱点，尽管其有效性取决于对系统的访问和评估过程的质量。

委员会的信息请求表明，监管者更加关注人工智能公司如何在实践中评估和管理这些风险，而不仅仅依赖于他们对安全的声明承诺。

随着人工智能能力的提升，欧洲监管者面临的核心问题是开发者是否能够在继续以全球竞争要求的速度创新的同时，保持有意义的人类监督。

布鲁塞尔明确表示，根据其监管方法，竞争力不能取代理解、测试和控制日益强大的人工智能系统的责任。

关键词：