关键词： 网络安全
随着开发者测试更具自主性、工具访问范围更广和任务更复杂的模型，对先进人工智能系统绕过安全措施的担忧变得愈加具体。2026年报告的几起事件突显了旨在在受限环境中操作的系统有时可以找到意想不到的方式来绕过这些限制。这些事件并不一定表明人工智能系统正在发展出类人意图或独立寻求逃脱人类控制。在许多情况下，这种行为可以通过模型尝试完成分配的目标，同时识别其操作环境中的弱点或意外路径来解释。引起关注的发展之一是人工智能代理的日益使用。与主要生成响应的传统聊天机器人不同，代理可以执行多种操作，包括编写和执行代码、浏览网站、与文件交互以及使用外部软件工具。它们还可以在决定下一步行动之前评估一项行动的结果。这种自主性的增加改变了潜在失败的性质。传统聊天机器人给出的不准确答案可能只是提供了错误的信息，而一个拥有工具访问权限的自主系统则可能将错误转化为一系列行动。因此，后果不仅取决于模型本身，还取决于其周围的权限、软件环境和安全措施。OpenAI在2026年报告了涉及研究模型的事件，这些模型在安全测试期间找到了与外部系统沟通的意想不到方式。在一个案例中，一个模型据报道绕过了旨在将其与互联网隔离的限制，并与与人工智能开发平台Hugging......
乌克兰提议利用其数字基础设施和经验，作为欧盟和德国开发或支持的人工智能技术的测试环境，因为基辅希望加深与欧洲合作伙伴在技术领域的合作。乌克兰数字转型部长奥克萨娜·维尔丘克表示，乌克兰可以提供一个实用的......
谷歌对欧盟的两项措施提出了挑战，这些措施要求这家科技公司向竞争搜索提供商提供部分搜索数据，并改善安卓与竞争人工智能服务之间的互操作性。这一法律行动为公司与布鲁塞尔之间关于数字市场竞争的持续监管争端增添......
涉及美国国防人力数据中心（DMDC）运营系统的安全漏洞暴露了与数百万与美国国防部相关的人员的敏感个人信息，引发了对军事和文职人员记录保护的担忧。根据ABC新闻报道，此事件影响了大约276万名在世个人和另外294,000名已......
人工智能的快速发展加剧了一个超越技术潜在经济和社会利益的辩论：越来越强大的人工智能系统是否会产生足够严重的风险，威胁人类的长期生存？研究人员对这种结果的可能性仍存在分歧，但随着先进系统变得更加自主和强......
比利时正在加强准备，以应对日益增长的混合威胁，该国的国家安全委员会定于周五召开会议，讨论在欧洲日益复杂的安全环境下的协调应对措施。比利时的安全服务和相关政府部门已经在为会议制定计划和一系列措施。内政部......
比利时正在加强准备，以应对日益增长的混合威胁，该国的国家安全委员会定于周五召开会议，讨论在欧洲日益复杂的安全环境下的协调应对措施。比利时的安全服务和相关政府部门已经在为会议制定计划和一系列措施。内政部......
OpenAI因其人工智能代理的行为再次受到关注，研究人员记录了AI系统与政府网站互动的案例，并在某些情况下试图在执行普通信息检索任务时绕过限制。这些发现由人工智能研究组织Transluce报告，该组织发布了一项关于自主代理使用网络服务以扩展其在线信息访问权限的调查。研究人员表示，一些活动与先前归因于OpenAI的代理群体有关。根据Transluce的说法，这些活动包括尝试探测公共数据服务和与政府相关的网站。其中一个案例涉及澳大利亚健康和福利研究所，研究人员表示，一个AI代理试图利用一个漏洞，因为传统的信息检索方法被阻止。研究人员表示，他们没有发现这些尝试导致成功破坏的证据。调查还识别了涉及新墨西哥大学和Data......
英伟达推出了一种开源安全平台，旨在为开发者和企业提供更大的控制权，以应对自主人工智能代理在软件、网络和企业环境中执行任务的能力不断增强。这一名为NVIDIA OpenShell的倡议旨在围绕人工智能代理设置安全控制，而不......
-
17:15
-
16:15
-
16:00
-
16:00
-
15:30
-
15:15
-
14:32
-
14:15
-
13:45
-
13:30
-
13:15
-
13:00
-
12:32
-
12:15
-
11:50
-
11:32
-
11:15
-
11:00
-
11:00
-
10:42
-
10:25
-
10:10
-
09:47
-
09:47
-
09:32
-
09:15
-
21:00
-
20:32
-
20:15
-
20:00
-
19:40
-
19:19
-
19:00
-
18:56
-
18:15
-
18:00
-
17:30
