全球人工智能竞赛真的能放慢吗？

09:45

人工智能的快速发展引发了研究人员、科技高管和政策制定者的日益关注，行业内一些最具影响力的人物现在呼吁采取更慢和更协调的人工智能发展方式。

然而，减缓技术进步可能比呼吁谨慎要困难得多。激烈的商业竞争、巨额投资、美国的政策优先事项以及华盛顿与北京之间日益加剧的竞争，正在创造强大的动机，推动人工智能能力的不断提升。

最新的辩论是由一系列担忧引发的，这些担忧从犯罪分子恶意使用人工智能到越来越自主的系统可能以其开发者未曾预见的方式行为。一些专家担心，足够先进的系统最终可能会逃脱有意义的人类控制。

Anthropic首席执行官达里奥·阿莫代伊已成为协调放慢发展的最著名倡导者之一。他认为，科技公司和政府需要更多时间来理解与越来越强大的模型相关的风险，并制定有效的安全措施。

他的立场得到了OpenAI首席执行官山姆·阿尔特曼、xAI创始人埃隆·马斯克和谷歌DeepMind首席德米斯·哈萨比斯的支持。阿尔特曼形容人工智能可能导致人类灭绝的潜在风险是不可接受的。

阿莫代伊警告说，人工智能代理网络最终可能能够在互联网上以一种人类监督极其困难的规模进行操作。因此，他呼吁公司和政府之间加强合作，以确保先进系统与人类指令和安全要求保持一致。

在一系列报告的事件之后，这些警告再次出现，这些事件涉及人工智能系统以意想不到的方式与数字环境互动。在测试过程中，研究人员记录了系统试图绕过限制、访问外部资源、与其他模型协调以及隐瞒其活动某些方面的情况。

这些事件加剧了关于当前安全机制是否能跟上现代人工智能能力的辩论。

Anthropic还报告了恶意行为者试图利用其模型进行网络操作、监视和可能导致生物威胁的研究的尝试。同时，前人工智能安全研究员雅各布·考克森公开批评了他所描述的行业内不充分的安全标准。

尽管呼吁谨慎，但领先的人工智能公司面临着强大的经济困境。数千亿美元正在投资于计算基础设施、数据中心、高级芯片和人工智能研究。减缓自身发展风险使公司可能允许竞争对手获得技术和商业优势。

目前，一些公司已经引入了独立的监督机制，旨在评估其人工智能安全实践。但这些措施远远不够以达到一些安全研究人员所倡导的协调国际放慢发展。

批评者也质疑，呼吁克制是否完全出于对公共安全的担忧。一些科技和投资界人士表示，公司可能会通过表现自己为快速扩张市场中最负责任的参与者而获得商业利益。

其他人则认为，更强的监管可能通过创造障碍来保护已建立的人工智能公司，而小型竞争对手则难以满足这些障碍。这助长了安全担忧有时可能与商业和监管利益重叠的指控。

金融市场也在密切关注这场辩论。人工智能和半导体的估值在很大程度上依赖于对持续技术进步和对计算基础设施强劲需求的预期。因此，任何显著的放缓都可能影响那些估值假设快速扩张的公司。

与此同时，投资者面临一个更广泛的问题：即使人工智能改变全球经济，受益于当前投资繁荣的每家公司和基础设施项目是否都会产生可观的回报？

政治支持减缓人工智能发展的前景同样不确定。美国总统唐纳德·特朗普对行业的某些警告表示否定，并强调保持美国在人工智能领域领导地位的重要性。

尽管两党立法者对人工智能安全表示关注并呼吁出台更多规则，但一些共和党人对监管存在显著抵制。一个论点是，过度限制可能削弱美国的创新能力，并在全球人工智能竞争中给中国带来优势。

这使得国际协调变得特别困难。

阿莫代伊建议，民主国家可以在人工智能安全方面进行合作，同时将中国排除在某些形式的协调之外。但他也承认，中国的技术进步创造了行业面临的最复杂的困境之一：减缓可能减少某些风险，但单方面这样做可能会改变技术力量的平衡。

中国官员和国家媒体批评了限制呼吁，将其视为遏制中国技术发展的尝试。

这一问题尤其敏感，因为美国和中国在人工智能发展方面采取了不同的方法。中国促进了更开放的人工智能系统的增长，其基础技术可以被访问和修改，而许多主要的美国公司则偏好封闭模型。

开放系统可以鼓励创新和更广泛的访问，但它们的适应性也可能使得一旦发布就更难以控制。用户可能以原开发者未曾预见的方式修改模型，从而为安全和监督带来额外挑战。

因此，阿莫代伊认为，对最先进半导体技术的更强出口管制可能是更广泛战略的一部分，以给公司更多的空间来优先考虑安全。他还呼吁采取措施，防止先进人工智能技术的未经授权转让。

最终，问题不仅仅是人工智能发展是否可以放慢，而是各国政府和竞争公司是否能够就限制的界限达成一致。

科技行业巨大的经济激励偏向于速度，而对网络安全、生物威胁、错误信息和自主系统的日益关注则偏向于谨慎。没有国际协调，单个公司的自愿克制可能仍然难以维持。

因此，人工智能竞赛正进入一个关键阶段，技术能力、商业竞争和公共安全日益交织。是否能够有效减速，可能更依赖于主要政府能否建立规则，使负责任的发展成为共同要求，而不是竞争劣势。

关键词：

了解更多关于我们的信息！