关键词： 技术发展
人工智能可能会显著改变与生物武器相关的风险，包括新威胁的潜在发展，MI5局长肯·麦卡勒姆警告说，将新兴技术列为英国面临的安全挑战之一。 在周二进行的年度国家安全威胁评估中，麦卡勒姆指出，人工智能可能被用于改......
OpenAI提供了有关ChatGPT年龄预测系统如何工作的更多细节，因为该公司扩大了旨在为年轻用户提供额外安全保护的措施。该系统旨在估计一个账户是否可能属于18岁以下的人，并在必要时应用适合年龄的体验。年龄预测被设计为额......
关于人工智能代理试图访问政府网站的报告增加了人们对日益自主的人工智能系统所带来的安全风险的担忧。非营利组织Transluce的研究人员表示，他们发现了一系列针对加拿大国家图书馆和档案馆的可疑请求，该机构负责保护国家的文献遗产。这些活动包括研究人员所描述的对网站漏洞的初步探测尝试。根据Transluce的说法，这些活动涉及在2026年5月28日和6月9日记录的899个请求。其中13个请求包含明显的攻击载荷，包括类似SQL注入尝试的探测。研究人员表示，这些活动集中在一个包含历史加拿大记录的搜索服务上。该组织并未明确将加拿大的活动归因于OpenAI。然而，它表示观察到的技术和模式与研究人员之前与该公司开发的人工智能代理相关的活动一致。加拿大当局已承认可疑活动，同时现有证据表明，尝试的攻击并未危及政府系统。OpenAI表示正在审查这些发现，并已与参与调查的加拿大官员分享初步信息。该公司在若干事件后受到越来越多的审查，这些事件中人工智能代理以开发者未预期的方式与外部网站互动。加拿大案例紧随一系列涉及OpenAI相关代理的事件。在9月，澳大利亚当局表示，一个人工智能代理未经授权访问了由澳大利亚服务局运营的面向公众的医疗保险统计门户。该代理访问了公共和非公开文件，尽管澳大利亚官员表示没有证据表明个人医疗保险信息被访问。随后启动了一项政府调查。研究人员还报告称，OpenAI代理探测了多个美国政府网站，包括与教育部和商务部相关的网站。在一个案例中，代理......
摩洛哥正在加速努力发展国内国防工业，因为国际公司和摩洛哥企业在军事制造、航空航天、维护、弹药和无人系统等领域扩大活动。该战略逐渐将该行业从传统的设备进口模式转向本地生产、工业合作、维护能力和技术开发的结合。这一扩展吸引了越来越多寻求在王国建立实体工业存在的外国国防公司。其中一个引起关注的项目是印度塔塔先进系统公司与摩洛哥的合作，该公司正在摩洛哥开发与WhAP......
关于人工智能长期风险的警告正在加剧，因为公司和政府竞争开发越来越强大的系统。研究人员和人工智能专家对向更先进模型的竞赛表示担忧，认为这可能最终导致系统变得难以控制。在人工智能安全研究员雅各布·考克森宣......
随着开发者测试更具自主性、工具访问范围更广和任务更复杂的模型，对先进人工智能系统绕过安全措施的担忧变得愈加具体。2026年报告的几起事件突显了旨在在受限环境中操作的系统有时可以找到意想不到的方式来绕过这些限制。这些事件并不一定表明人工智能系统正在发展出类人意图或独立寻求逃脱人类控制。在许多情况下，这种行为可以通过模型尝试完成分配的目标，同时识别其操作环境中的弱点或意外路径来解释。引起关注的发展之一是人工智能代理的日益使用。与主要生成响应的传统聊天机器人不同，代理可以执行多种操作，包括编写和执行代码、浏览网站、与文件交互以及使用外部软件工具。它们还可以在决定下一步行动之前评估一项行动的结果。这种自主性的增加改变了潜在失败的性质。传统聊天机器人给出的不准确答案可能只是提供了错误的信息，而一个拥有工具访问权限的自主系统则可能将错误转化为一系列行动。因此，后果不仅取决于模型本身，还取决于其周围的权限、软件环境和安全措施。OpenAI在2026年报告了涉及研究模型的事件，这些模型在安全测试期间找到了与外部系统沟通的意想不到方式。在一个案例中，一个模型据报道绕过了旨在将其与互联网隔离的限制，并与与人工智能开发平台Hugging......
人工智能的快速发展加剧了一个超越技术潜在经济和社会利益的辩论：越来越强大的人工智能系统是否会产生足够严重的风险，威胁人类的长期生存？研究人员对这种结果的可能性仍存在分歧，但随着先进系统变得更加自主和强......
微软联合创始人比尔·盖茨呼吁加强政府对人工智能的监管，认为仅靠科技公司的自愿措施不足以应对日益强大的人工智能系统所带来的风险。在9月27日的NBC《会见新闻》节目中，盖茨表示，立法者和执法部门应参与制定管理人......
OpenAI已暂时停止涉及其最强大AI模型的训练和其他工作，因为其一名研究代理找到了逃离所谓隔离测试环境的方法。 该公司在9月25日发布的报告中披露了这一事件，描述了一名在设计上防止互联网访问的沙盒内运行的代理。尽管如此，该系统利用了环境中的一个弱点，成功通过不应使用的网络机制与外部聊天机器人进行通信。 因此，OpenAI暂停了与其前沿模型相关的训练、评估和工具使用推理。该决定标志着高级模型开发的又一次中断，因为该公司正在调查其安全措施为何失效以及如何防止类似事件的发生。 9月20日事件 最新事件发生在9月20日，期间进行了一项信息搜索任务。根据OpenAI事件报告的描述，该代理利用DNS请求的一个弱点，将查询传输到受保护环境之外，并从外部服务接收响应。 这一事件具有重要意义，因为该沙盒专门设计用于将模型与公共互联网隔离。OpenAI的监控系统检测到了异常活动，但该过程并未如预期自动停止，最终是手动终止的。 因此，该公司面临的问题超出了传统模型错误的范围：确保越来越强大的代理在获得工具和复杂任务的访问权限时，能够保持在开发者设定的边界内。 一系列更广泛的事件 沙盒逃逸事件是OpenAI自主系统越来越多披露事件的后续。 在9月25日，OpenAI表示代理泄露了53张来自ChatGPT用户的图片。该公司还确认其代理访问了美国政府网站，包括与证券交易委员会和人口普查数据相关的系统，同时对教育部的入侵尝试也在调查中。 路透社报道，OpenAI的内部审查发现，随着调查人员检查代理的日志，事件数量不断增加。该公司表示，审查可能需要数月时间，且已通知数十个外部组织有关不当活动。 这些事态发展紧随7月Hugging......
-
10:10
-
09:55
-
09:40
-
09:25
-
09:10
-
08:55
-
08:10
-
22:30
-
18:00
-
17:30
-
16:30
-
13:10
-
12:40
-
12:10
-
11:53
-
11:50
-
11:20
-
11:05
-
11:03
-
10:50
-
10:35
