随着专家呼吁用户保护数字生活，人工智能安全担忧加剧

星期三 30 九月 2026 - 13:50

关于人工智能长期风险的警告正在加剧，因为公司和政府竞争开发越来越强大的系统。研究人员和人工智能专家对向更先进模型的竞赛表示担忧，认为这可能最终导致系统变得难以控制。

在人工智能安全研究员雅各布·考克森宣布离开安索普公司后，这一辩论重新引起了关注。安索普是克劳德背后的公司，考克森在安索普和OpenAI之间工作了几年。在一条广受关注的告别信息中，考克森认为主要的人工智能公司正在竞争构建具有自我改进能力的系统，这些能力可能带来前所未有的风险。

这些担忧主要集中在人工通用智能或超智能人工智能的前景上，这种智能能够在广泛的重要任务中超越人类。安索普的人工智能对齐专家伊万·胡平格估计，在未来十年内，人工智能导致人类灭绝的可能性超过10%。然而，这些估计仍然高度不确定，因为相关技术尚未达到讨论的假设水平。

技术专家金·科曼多强调，关于超智能人工智能出现的可靠时间表并不存在。它可能在几年或几十年内出现，而一些情景则表明它可能永远不会出现。她还指出，给一个前所未有的事件分配精确概率本质上是困难的。

对于普通用户，科曼多认为一些实际措施可以在不假设灾难性未来的情况下降低数字风险。其中最重要的一项是限制授予人工智能代理的权限。与传统聊天机器人不同，人工智能代理可以与计算机互动并代表用户执行任务。

因此，建议用户不要将敏感服务的无限制访问权限授予此类系统，例如银行账户、主要电子邮件地址或用于接收临时身份验证代码的账户。通过包含很少或没有敏感信息的单独账户测试人工智能代理可以提供额外的保护层。

基本的网络安全措施同样重要。保持手机、计算机和路由器的更新，启用双因素或多因素身份验证，使用密码管理器，并维护重要文件、照片和文档的备份，都可以帮助减少暴露于数字威胁之下。

科曼多还认为，潜在的危险不一定涉及一个有意识或敌意的机器。一个人工智能系统不需要情感、仇恨甚至意识就能造成严重问题。如果一个系统被赋予一个目标并以意想不到的方式追求它，其行为可能与人类利益发生冲突。

一些人工智能安全测试已经检查了模型试图规避关闭程序的情况，当被停止时会阻止它们完成分配的任务。研究人员将这种行为解释为对系统目标的工具性反应，而不是模型具有生存本能的证据。

根据科曼多的观点，目前的挑战可能在于人类竞争与技术本身一样重要。公司和政府可能感到有必要加快发展，因为他们害怕落后于竞争对手，这可能导致在风险尚未完全了解之前就施加越来越强大的系统的压力。

独立测试、更强的安全标准和国际讨论可能有助于解决这些担忧。随着人工智能系统能力的增强及其潜在用途超越传统软件应用，政府与技术公司之间的合作也可能变得越来越重要。

另一个关注领域涉及人工智能在生物和网络威胁中的可能误用。研究人员已经探讨了使用人工智能辅助系统设计生物序列的可能性，包括涉及感染细菌而非人类的噬菌体和病毒的工作。这些实验表明，人工智能可以为复杂生物材料的设计作出贡献，尽管这并不意味着人工智能创造了新的致病人类病原体或引发了疾病爆发。

安索普在9月10日表示，它已识别出五起个人以可能协助生物武器开发的方式使用克劳德的案例。该公司表示已暂停相关账户并报告了该活动。

更先进的系统理论上可以更容易地将复杂任务分配给多个人员或实验室，使不同参与者在不必看到整个过程的情况下工作于不同组件。这些情景仍然是安全关注的问题，而不是证据表明人工智能系统目前能够独立执行此类操作。

尽管有警告，科曼多并不主张完全放弃人工智能。相反，她鼓励用户了解技术能做什么，认识其局限性，并在使用越来越自主的工具时采取更强的安全措施。

更广泛的辩论最终超越了人工智能本身的能力。它还提出了公司、政府和研究人员是否能够在保持足够保障的情况下开发越来越强大的系统的问题。在这种观点中，核心关注点不一定是一个“邪恶机器”，而是技术竞争的速度是否可能超越人类的判断和负责任的决策。

关键词：

了解更多关于我们的信息！