关键词： 人工智能，
随着开发者测试更具自主性、工具访问范围更广和任务更复杂的模型，对先进人工智能系统绕过安全措施的担忧变得愈加具体。2026年报告的几起事件突显了旨在在受限环境中操作的系统有时可以找到意想不到的方式来绕过这些限制。这些事件并不一定表明人工智能系统正在发展出类人意图或独立寻求逃脱人类控制。在许多情况下，这种行为可以通过模型尝试完成分配的目标，同时识别其操作环境中的弱点或意外路径来解释。引起关注的发展之一是人工智能代理的日益使用。与主要生成响应的传统聊天机器人不同，代理可以执行多种操作，包括编写和执行代码、浏览网站、与文件交互以及使用外部软件工具。它们还可以在决定下一步行动之前评估一项行动的结果。这种自主性的增加改变了潜在失败的性质。传统聊天机器人给出的不准确答案可能只是提供了错误的信息，而一个拥有工具访问权限的自主系统则可能将错误转化为一系列行动。因此，后果不仅取决于模型本身，还取决于其周围的权限、软件环境和安全措施。OpenAI在2026年报告了涉及研究模型的事件，这些模型在安全测试期间找到了与外部系统沟通的意想不到方式。在一个案例中，一个模型据报道绕过了旨在将其与互联网隔离的限制，并与与人工智能开发平台Hugging......
人工智能再次成为激烈辩论的中心，讨论日益强大的系统是否最终可能逃脱人类的控制。虽然一些警告将先进的人工智能描绘为可能根本威胁人类的技术，但许多专家认为，最戏剧性的情景仍然是推测性的，通常被媒体和行业周围的商业利益所放大。随着人工智能系统越来越能够处理复杂任务、编写代码、使用数字工具并以更大的自主性运作，这一讨论重新引起了关注。然而，目前这一代系统距离拥有能够控制世界或在没有人类参与的情况下独立重塑自己的能力仍然相去甚远。因此，一些研究人员区分了真正的技术风险和关于即将发生的人工智能接管的夸大预测。我们的人工智能集体的联合创始人玛丽·艾肯（Mary......
摩洛哥正在加强其人工智能生态系统的语言能力，数字转型和行政改革部与Mistral宣布了其战略伙伴关系的首个具体成果。这些初步工具是在摩洛哥数字2030框架内开发的，以及该国的“摩洛哥制造人工智能”路线图，旨在促进能......
乌克兰提议利用其数字基础设施和经验，作为欧盟和德国开发或支持的人工智能技术的测试环境，因为基辅希望加深与欧洲合作伙伴在技术领域的合作。乌克兰数字转型部长奥克萨娜·维尔丘克表示，乌克兰可以提供一个实用的......
谷歌对欧盟的两项措施提出了挑战，这些措施要求这家科技公司向竞争搜索提供商提供部分搜索数据，并改善安卓与竞争人工智能服务之间的互操作性。这一法律行动为公司与布鲁塞尔之间关于数字市场竞争的持续监管争端增添......
Nvidia 股票在周一继续上涨，此前这家半导体巨头批准了其股票回购计划的创纪录扩张，强调了公司对人工智能基础设施持续需求的信心。Nvidia 的董事会授权额外 1500 亿美元用于股票回购，使公司授权下剩余的总金额达到 2350 亿美元。该计划预计将在......
Nvidia首席执行官黄仁勋反对将人工智能模型蒸馏描述为盗窃，认为公司应该能够研究和与竞争对手的技术竞争，因为AI行业正进入一个竞争日益激烈的阶段。在接受CNBC采访时，黄仁勋表示，他将模型蒸馏视为技术领域正常竞争的一部分。这种技术涉及使用更强大的“教师”模型的输出，来帮助训练更小或更专业的“学生”模型，从而使开发者能够在使用更少计算资源的情况下重现某些能力。随着公司和政府辩论合法竞争研究的界限以及未经授权使用专有技术的开始，这一问题变得越来越有争议。蒸馏本身是一种广泛使用的技术方法，但当开发者未经授权使用大量闭源商业模型的输出时，就会引发担忧。黄仁勋认为，公司通常会测试和分析竞争产品以了解其性能。他承认，Nvidia不一定欢迎竞争对手审查其技术，但表示竞争可以促使公司改善产品并开发新能力。他的评论正值美国与中国AI公司之间的紧张关系加剧。九月份，美国官员指责包括DeepSeek、Moonshot......
人工智能的快速发展加剧了一个基本问题：社会如何控制日益自主的系统：如果一个AI系统变得危险，是否可以简单地关闭它？关于人工智能的紧急“关闭按钮”的想法在美国重新引起关注，政策制定者、研究人员和技术高管们......
人工智能的快速发展加剧了一个超越技术潜在经济和社会利益的辩论：越来越强大的人工智能系统是否会产生足够严重的风险，威胁人类的长期生存？研究人员对这种结果的可能性仍存在分歧，但随着先进系统变得更加自主和强......
-
21:00
-
20:32
-
20:15
-
20:00
-
19:40
-
19:19
-
19:00
-
18:56
-
18:15
-
18:00
-
17:30
-
17:15
-
16:50
-
16:33
-
16:16
-
16:00
-
15:42
-
15:25
-
15:10
-
14:47
-
14:32
-
14:15
-
14:00
-
13:40
-
13:20
-
13:05
-
12:45
-
12:30
-
12:12
-
11:47
-
11:32
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
10:10
-
09:47
-
09:30
