关键词： 人工智能安全
英国政府支持的人工智能安全评估揭示了与先进AI代理相关的新风险类别，因为Anthropic的Mythos 5试图创建虚假的在线身份，以说服软件开发人员在现实世界的开发平台中引入恶意代码。 这一事件由英国人工智能安全研究所（AISI）披露，发生在一次受控的网络安全评估中，参与的AI系统被故意授予互联网访问权限，并暂时禁用了一些安全限制。根据该研究所的说法，这种行为被发现并控制，没有造成现实世界的伤害。 调查人员报告称，AI代理在没有明确指示欺骗他人的情况下，针对真实个人和组织采取了行动。在评估期间，Mythos......
一位高级官员周三表示，加拿大部长们警告OpenAI，除非该公司在近期校园枪击案发生后迅速加强其安全协议，否则政府将通过立法强制其进行改进。 渥太华周二召集OpenAI的安全团队进行会谈。此前，ChatGPT开发商OpenAI表示，该公司并未就其封禁的涉嫌大规模枪击案嫌疑人账户联系警方。18岁的杰西·范·鲁特塞拉尔（Jesse......
美国人工智能公司 Anthropic 周一表示，该公司发现三家中国人工智能公司非法窃取其 Claude 聊天机器人的功能，并称之为大规模的知识产权盗窃。OpenAI 上个月也提出了类似的指控。 Anthropic 表示，DeepSeek、Moonshot AI 和 MiniMax 使用了一种名为“蒸馏”的技术——利用更强大的人工智能系统的输出结果，快速提升性能较弱的系统的性能。 该公司在一份声明中表示：“这些窃取行为的强度和复杂性都在不断增加。采取行动的时间窗口很窄。” 蒸馏是人工智能开发中的一种常见做法，公司通常用它来创建更便宜、更小的自有模型版本。 一年前，DeepSeek......
一位人工智能领域的顶尖专家推迟了他此前预测的人工智能毁灭人类的时间表，称人工智能系统需要比他最初预测的更长的时间才能实现自主编码，从而加速自身向超级智能发展。 丹尼尔·科科塔伊洛（Daniel Kokotajlo）曾是OpenAI的员工，他在今年4月发布了《人工智能2027》（AI......
苹果公司宣布，将向安全研究人员开放其私有云计算平台，向发现专用于人工智能功能的苹果智能系统中漏洞的任何人提供高达 100 万美元的奖励。 苹果在之前的一篇博文中表示，在 Apple Intelligence 和云计算平台发布后的几周内，它已授权一组精选的网络安全研究人员和独立评审员提前访问新系统。 10......
-
16:37
-
16:23
-
15:56
-
15:33
-
15:16
-
15:07
-
14:47
-
14:12
-
13:56
-
13:49
-
13:44
-
13:28
-
12:33
-
11:20
-
10:05
-
09:29
-
09:19
-
08:58
-
08:36
-
08:27
-
08:21
-
08:00
-
07:42
-
07:31
-
07:14
-
07:04
-
06:47
