安特罗皮克公司警告人工智能的危险性，并呼吁放缓其发展速度
美国公司安特罗皮克（Anthropic）对人工智能的加速发展发出警告。这家专注于先进人工智能模型的公司在最近的一份分析报告中指出，越来越多地使用人工智能来设计新一代系统可能会导致一个前所未有的阶段：“递归自主改进”，即人工智能能够开发出自身模型的更高效版本。
安特罗皮克公司表示，长期以来，人类一直是人工智能领域创新的主要驱动力。然而，越来越多的系统设计相关任务现在被委托给了人工智能本身。编写代码、运行实验、分析结果，甚至提出新的研究方向：这些功能正变得越来越自动化。
该公司透露，到2026年5月，其基础设施中超过80%的代码是由其Claude模型生成的，而在此之前，Claude Code工具于2025年2月推出，这一比例微乎其微。与此同时，每位工程师生成的代码量较2021-2025年期间增长了八倍，这体现了开发方法的快速变革。
对于Anthropic公司而言，当前的演进已不再局限于辅助编程。人工智能模型正日益参与到研究项目的全面管理、训练流程的优化、错误检测以及系统的持续改进中。人类研究人员的角色正逐渐转向监督、验证和战略决策。
然而，这种动态也引发了严重的担忧。该公司警告称，能够设计自身后代的系统的出现可能会削弱人类理解、监控或控制自身演进的能力。在此背景下，如何使人工智能与人类利益相契合，正成为该行业未来发展的核心问题。
面对这些风险，Anthropic呼吁国际社会就以下问题展开辩论：如果发现重大威胁，是否可以放缓甚至暂时中止最先进人工智能模型的研发。该公司强调，只有通过全球领先实验室的协调合作，才能有效应对这一挑战，防止任何一方利用潜在的暂停期秘密继续其研究。
该公司还倡导建立能够监控先进研发项目的国际监督和核查机制。Anthropic认为，各国政府、独立研究人员、民间社会和科技公司必须共同参与制定人工智能领域的规则。
Anthropic将这一挑战与国际核武器限制协议相提并论，并强调人工智能的发展速度要快得多。因此，该公司认为必须立即采取行动，建立能够应对未来挑战的信任、透明和监督机制。
尽管认识到人工智能在医疗保健、科学研究和经济生产力领域的巨大潜力，但安特罗皮克认为，在系统跨越可能脱离人类控制的技术门槛之前，安全和治理必须成为绝对优先事项。
-
21:00
-
19:30
-
17:31
-
16:30
-
15:30
-
14:30
-
14:00
-
13:30
-
13:15
-
12:15
-
11:45
-
11:30
-
11:15
-
10:45
-
10:30
-
10:15
-
09:25
-
09:10
-
22:40
-
22:37
