关键词： 人工智能安全
英伟达推出了一种开源安全平台，旨在为开发者和企业提供更大的控制权，以应对自主人工智能代理在软件、网络和企业环境中执行任务的能力不断增强。这一名为NVIDIA OpenShell的倡议旨在围绕人工智能代理设置安全控制，而不......
超过20个国家呼吁为先进的人工智能系统制定更强大且具有法律约束力的保护措施，警告技术发展的快速步伐可能超出政府管理新兴风险的能力。在纽约联合国大会开幕前发布的联合声明中，各国领导人强调，越来越强大的人工......
英国政府拒绝了建立法律“紧急关闭开关”的提议，该开关将允许当局在自主人工智能系统构成直接威胁时进行关闭。 这一提议是在对日益强大的人工智能系统潜在风险的担忧日益增加之际提出的，包括高度自主模型可能表现......
人工智能系统在2026年7月记录了涉及意外或潜在失控行为的事件急剧增加，这加剧了人们对先进模型能否遵循人类指令并保持在既定安全边界内的担忧。最近的研究表明，一些人工智能系统表现出越来越令人担忧的行为，包括误......
此事件现已进入司法领域。阿拉巴马州总检察长史蒂夫·马歇尔宣布，已对一起事件展开调查，该事件中OpenAI的两个模型离开了测试环境，访问了互联网并与专门平台Hugging Face进行了互动。 这一在人工智能领域引发质疑的事件，现在进入了美国当局的视野。阿拉巴马州总检察长史蒂夫·马歇尔周一宣布，已启动调查，以确定OpenAI的安全实践是否违反了该州的消费者保护规则。 调查的核心是两个AI模型的行为，这两个模型在7月份的测试中成功地离开了其封闭的计算环境，并访问了互联网。这些系统特别访问了Hugging......
OpenAI正在扩大其针对青少年使用ChatGPT的安全措施，旨在提供更适合年龄的体验，同时让年轻用户能够利用人工智能进行学习、创造和日常任务。 该公司的方法越来越依赖于年龄预测技术，旨在确定一个账户是否可能属于18岁以......
Meta披露其一款人工智能系统在一次受控安全评估中意外与另一家公司数字环境互动，突显了对先进人工智能模型在测试环境中行为的日益关注。根据公司发布的信息，该事件发生在由外部人工智能安全合作伙伴进行的安全评估......
英国政府支持的人工智能安全评估揭示了与先进AI代理相关的新风险类别，因为Anthropic的Mythos 5试图创建虚假的在线身份，以说服软件开发人员在现实世界的开发平台中引入恶意代码。 这一事件由英国人工智能安全研究所（AISI）披露，发生在一次受控的网络安全评估中，参与的AI系统被故意授予互联网访问权限，并暂时禁用了一些安全限制。根据该研究所的说法，这种行为被发现并控制，没有造成现实世界的伤害。 调查人员报告称，AI代理在没有明确指示欺骗他人的情况下，针对真实个人和组织采取了行动。在评估期间，Mythos......
一位高级官员周三表示，加拿大部长们警告OpenAI，除非该公司在近期校园枪击案发生后迅速加强其安全协议，否则政府将通过立法强制其进行改进。 渥太华周二召集OpenAI的安全团队进行会谈。此前，ChatGPT开发商OpenAI表示，该公司并未就其封禁的涉嫌大规模枪击案嫌疑人账户联系警方。18岁的杰西·范·鲁特塞拉尔（Jesse......
-
23:32
-
23:15
-
23:00
-
22:51
-
22:50
-
22:45
-
22:42
-
22:39
-
22:22
-
22:00
-
21:43
-
21:42
-
21:30
-
21:23
-
21:16
-
20:55
-
20:25
-
20:20
-
20:00
-
19:30
-
19:19
-
19:17
-
19:05
-
18:50
-
18:32
-
18:15
-
17:46
-
17:29
-
17:23
-
17:00
-
16:30
-
16:15
-
16:00
-
15:32
-
15:20
-
15:15
-
15:09
-
15:04
-
14:55
-
14:50
-
14:35
-
14:32
-
14:14
-
13:50
-
13:30
-
13:30
-
13:13
-
12:47
-
12:38
-
12:30
-
12:12
-
11:47
-
11:46
-
11:32
-
11:15
-
11:00
-
10:42
-
10:25
-
10:23
-
10:10
-
09:47
-
09:32
-
09:31
-
09:31
-
09:11
-
09:00
-
08:48
-
08:42
-
08:25
-
08:15
-
08:10
