谷歌DeepMind首席警告：自主人工智能可能在2028年前导致重大事件

星期四 15 - 19:00

自主人工智能系统的快速发展引发了新的安全担忧，谷歌DeepMind首席德米斯·哈萨比斯警告称，除非公司和政府显著加强其安全措施，否则在未来一到两年内可能会发生严重事件。

哈萨比斯在周三于都柏林举行的人工智能峰会上指出，最近一些AI代理失控或表现出意外行为的案例是与日益自主系统相关风险的早期警告。

他担心，目前的事件可能仅有限地表明这些技术在变得更强大并能够在更少人类监督下运行时可能发生的情况。

更强大人工智能的早期警告信号

哈萨比斯认为，今天系统的相对有限能力在一定程度上帮助防止了一些故障升级为重大事件。然而，他警告称，随着AI代理变得更加复杂，这种情况可能会迅速改变。

核心问题在于技术进步与可靠安全机制发展的差距。随着AI代理承担更复杂的任务并以更大的独立性运行，意外行为可能会带来更重大后果。

他的警告将自主AI系统的可靠性和可控性置于技术下一阶段发展的辩论中心。

哈萨比斯强调，防止严重事件的发生需要私营部门和公共当局对AI安全的更强承诺。

开发先进系统的科技公司面临在部署前识别潜在故障的挑战，而政府则必须考虑如何最好地监管这些能力快速发展的技术。

这一警告还突显了预测风险的重要性，而不是仅仅依赖于事件发生后的反应。随着AI代理越来越广泛地融入数字服务和运营流程，故障可能会影响更广泛的用户和活动。

哈萨比斯提到的一到两年时间框架强调了在自主AI快速发展的过程中解决安全问题的紧迫性。

他的言论并没有表明在此期间内重大事件是不可避免的。相反，它们指出，如果安全措施未能跟上能力的进步，现有的弱点可能会变得更加严重。

对于AI行业而言，挑战越来越双重：开发能够执行更高要求任务的系统，同时确保其行为保持可预测、可控和安全。

因此，未来几年可能在决定安全措施是否足够迅速地推进以管理与日益自主的人工智能相关的风险方面至关重要。

关键词：