比尔·盖茨警告人工智能可能导致毁灭性的生物和网络攻击

星期三 30 九月 2026 - 14:47

微软联合创始人比尔·盖茨再次警告人工智能可能被滥用，认为越来越强大的人工智能系统可能使恶意个人获得以前主要由政府和高度专业化组织掌握的能力。

在本周发布的《艾兹拉·克莱恩秀》节目中，盖茨表示，他认为人工智能在网络安全和生物研究方面今年早些时候已经跨越了重要的门槛。他认为，这项技术可能被用来促进高度破坏性的网络攻击或协助开发危险的生物制剂。

盖茨表示，网络安全风险已经在先进的人工智能模型识别软件和计算机系统中的漏洞的能力中显现出来。他指出，人工智能系统发现了多年由人类审查的代码中的安全缺陷，认为这项技术可能降低进行复杂攻击所需的专业知识。

他还对越来越强大的人工智能的生物学影响表示担忧。在他看来，曾经需要国家资源的知识和能力可能会随着人工智能系统改善其协助科学和技术任务的能力而变得更易于小团体获取。盖茨的评论反映了技术行业内关于如何测试和控制先进人工智能的能力扩展的更广泛辩论。

这位微软联合创始人认为，仅靠自愿的行业措施不足以应对这些风险。他呼吁政府和执法机构参与建立保护措施和监测机制，表示某些保护措施应该是强制性的，而不是完全留给个别公司。

盖茨还质疑公众和政策制定者是否充分认识到人工智能能力发展的速度。他表示，关于人工智能的讨论往往集中在竞争和经济机会方面，而对技术可能被故意滥用的情景关注较少。

他最新的评论是在人工智能公司和研究人员之间关于加强安全措施的更广泛辩论中提出的。例如，Anthropic已经发布了涉及其模型的网络安全事件评估，并开发了额外的保护措施，旨在防止模型被用于危险的网络活动。

Anthropic还建立了一个评估与越来越强大的模型相关的风险的框架，包括与化学和生物武器相关的潜在威胁。随着公司修订对新兴风险的评估和所需保护措施，其负责任的扩展政策在2026年进行了更新。

盖茨的担忧超出了他最新采访中讨论的具体风险。在NBC的《与媒体见面》中，他表示人工智能可能会导致极高的死亡人数，并认为政府应该在这些能力被滥用之前建立保护措施。

这场辩论正值人工智能公司继续开发具有更强编码、科学研究和自主任务能力的模型之际。快速发展的支持者强调这些系统的潜在好处，而研究人员和技术领袖越来越多地讨论需要能够跟上其能力的测试、监测和控制。

因此，盖茨的介入为关于如何治理先进人工智能的国际讨论增添了新的内容。政策制定者面临的中心挑战是如何在减少可能故意或意外造成大规模伤害的可能性的同时，保留越来越强大的系统的好处。

关键词：

了解更多关于我们的信息！