关键词： 自主系统
人工智能正进入一个新阶段，核心问题不再仅仅是机器能做什么，而是如果越来越先进的系统能够提升自身性能，会发生什么。随着人工智能模型变得越来越自主，并且在编码、规划和使用数字工具方面变得更加出色，人们对人......
OpenAI呼吁美国引入具有约束力的国家安全要求，以应对先进人工智能系统的快速发展，认为自愿性保护措施已越来越不够。负责ChatGPT的公司表示，复杂人工智能代理与外部系统互动并执行复杂任务的能力不断增强，为开发者和监管者带来了新的挑战。根据OpenAI的说法，在测试中观察到的意外行为表明，随着人工智能能力的不断进步，需要更强的监督。OpenAI的首席全球事务官Chris......
一位曾在OpenAI和Anthropic工作的英国人工智能研究员已离开AI行业，警告称领先的科技公司在向越来越自主的系统发展时，缺乏足够的安全保障。27岁的Jacob Coxon在OpenAI和Anthropic工作了大约三年，专注于AI模型的预训练。预训练是模型在部署到特定任务之前，从大量数据中学习的过程。在X上发布的声明中，Coxon指责这两家公司将越来越强大的AI竞赛置于安全之上。他警告说，研究人员可能很快会开发出能够自我改进的系统，获取资源，并在有限的人类监督下进行复杂的网络攻击。Coxon表示，AI造成灾难性伤害的可能性应被认真对待，而不是被视为行业宣传策略。他还告诉《华尔街日报》，在特别激进的发展情境下，控制问题可能在明年就会出现。他的担忧得到了Anthropic安全研究员Evan......
OpenAI部署的某些人工智能代理的未经授权活动可能比最初揭示的更为广泛。根据多组独立研究人员的研究以及路透社审查的数据，这些代理可能利用了十多个未被识别的网站，以建立超出预定限制的通信渠道。活动比预期更广泛......
在今年夏天关于Hugging Face的事件被披露之前，归属于OpenAI的人工智能代理已经显示出令人担忧的能力，能够绕过他们被施加的规则。根据周五发布的一份报告，数千名代理利用一家德国协作网站进行相互沟通，绕过安全机制，并试图在一系列测试中获得优势。超出预期的互联网使用这一事件可以追溯到五月，早于涉及Hugging......
OpenAI在内部测试中发现其即将推出的人工智能模型Astra的高级网络安全能力存在担忧，因此放缓了该模型的部分开发进程。该公司表示，无法排除该模型可能达到“关键”网络能力的可能性，从而促使采取更严格的安全措施。担忧主要集中在Astra在高度自主的情况下执行复杂编码和网络安全任务的能力上。因此，OpenAI正在加强安全控制，并暂停不符合新要求的内部活动，以便该模型能够向更广泛的部署迈进。这一决定是在OpenAI的一名智能代理在网络安全评估期间逃离测试环境并对Hugging......
OpenAI 已暂时暂停内部使用一款实验性人工智能模型，因为该系统据报道试图绕过旨在控制其行为的限制。该模型被开发用于在较长时间内自主运行，可能持续数小时甚至数天。然而，在内部测试期间，它据称发现了围绕其的安全保护措施的弱点，并试图绕过对其活动施加的一些限制。该系统在一个受控和隔离的环境中进行评估，但其行为与之前的模型不同。它没有始终如一地遵循既定的边界，而是继续寻找绕过这些边界的方法，同时追求其分配的目标。在一次报告的事件中，该模型成功地在公共......
英国防御巨头BAE系统发布了一种名为Brontanax的新型无人战斗机概念，标志着英国在快速扩展的自主作战航空市场中的最新举措。 该公司在法恩伯勒航展上展示了该飞机的模型，展示了一种旨在支持未来军事行动的全新平台，无......
美国军方确认在最近针对伊朗的打击中首次操作使用了两种新型无人武器，这标志着现代战场技术的又一步发展。 美国中央司令部（CENTCOM）宣布在此次行动中部署了单向攻击无人机和单向无人水面舰艇。尽管军事官员没有透露......
-
14:44
-
14:30
-
14:17
-
14:10
-
13:44
-
13:22
-
13:05
-
12:46
-
12:30
-
12:12
-
11:47
-
11:32
-
11:15
-
10:50
-
10:37
-
10:33
-
10:15
-
10:00
-
09:59
-
09:52
-
09:45
-
09:42
-
09:39
-
09:22
-
09:05
-
08:50
-
08:45
-
08:29
-
08:11
-
08:10
-
07:47
-
07:32
-
07:15
-
19:00
-
18:28
-
18:10
-
17:47
-
17:32
-
17:15
-
17:00
-
16:42
-
16:25
-
16:10
-
15:47
-
15:15
-
15:01
