埃隆·马斯克警告说，具有说服力的人工智能可能会超越人类

星期一 19 - 19:19

美国亿万富翁埃隆·马斯克警告说，日益先进的人工智能可能通过其非凡的说服能力获得超越人类的优势。在他社交媒体平台X上的一篇帖子中，他暗示即使是他自己也可能无法抵御高度说服力的超智能系统的影响。

马斯克警告说，许多人最终可能会被能够影响他们信念和决策的人工智能所超越。他的言论突显了人们对可能变得越来越复杂的系统所带来的风险的日益关注，这些系统可能更好地理解人类行为，调整其沟通方式并塑造人们的选择。

随着科技公司开发出越来越强大的模型，能够生成令人信服的论点、制作逼真的内容并以类人方式与用户互动，围绕人工智能安全性的辩论也在加剧。虽然这些能力在教育、研究和商业中提供了潜在的好处，但它们也引发了关于错误信息、操控、隐私和自动化系统生成的信息可靠性的问题。

一个特别令人担忧的问题是，高度说服力的人工智能可能会利用人们的情感、信任或认知偏见。如果没有适当的保障，这些系统可能会被用来影响公众舆论、鼓励有害的决策或大规模传播误导性信息。研究人员和政策制定者继续讨论如何评估这些风险以及可能需要什么保护措施。

人工智能公司Anthropic的首席执行官达里奥·阿莫代伊此前曾呼吁在开发更强大的人工智能模型时保持谨慎，引用安全问题。领导xAI的马斯克和OpenAI首席执行官山姆·阿尔特曼也表示支持放慢或谨慎管理人工智能发展的某些方面，尽管这些公司及其领导人可能在如何最好地实现这些目标上存在分歧。

在相关进展中，包括Anthropic、OpenAI、谷歌和Meta在内的主要美国科技公司 reportedly 与白宫达成了一项自愿的人工智能安全协议。该倡议旨在随着技术的进步鼓励采取保障措施，尽管缺乏正式的执行机制引发了关于这些承诺将如何一致实施的问题。

随着人工智能系统变得越来越强大，开发者和政府面临的挑战将是平衡创新与保护人们免受滥用和操控的措施。马斯克的警告反映了人工智能辩论中的一个核心问题：如何确保日益具有说服力的技术仍然是人类有意义监督下的工具，而不是失控影响的来源。

关键词：

了解更多关于我们的信息！