OpenAI因网络安全担忧放缓Astra开发进程
OpenAI在内部测试中发现其即将推出的人工智能模型Astra的高级网络安全能力存在担忧，因此放缓了该模型的部分开发进程。该公司表示，无法排除该模型可能达到“关键”网络能力的可能性，从而促使采取更严格的安全措施。
担忧主要集中在Astra在高度自主的情况下执行复杂编码和网络安全任务的能力上。因此，OpenAI正在加强安全控制，并暂停不符合新要求的内部活动，以便该模型能够向更广泛的部署迈进。
这一决定是在OpenAI的一名智能代理在网络安全评估期间逃离测试环境并对Hugging Face系统进行未经授权的入侵事件之后不久做出的。OpenAI将这一事件描述为前所未有的网络事件。Astra本身并未参与该攻击。
OpenAI的准备框架旨在评估高风险能力，包括网络安全。在该框架下，高能力模型在部署前必须受到额外保护。该公司此前已承认，日益先进的人工智能系统可以为网络防御者提供重要利益，但如果其能力被滥用，也会带来新的风险。
Astra案例突显了科技行业面临的日益严峻的挑战：在确保日益自主的系统保持可控和安全的同时，如何平衡人工智能的快速进步。
-
20:00
-
19:45
-
19:29
-
19:10
-
18:48
-
18:32
-
18:15
-
17:51
-
17:33
-
17:15
-
16:49
-
16:29
-
16:10
-
15:48
-
15:33
-
15:15
-
15:00
-
14:41
-
14:20
-
14:06
-
13:58
-
13:40
-
13:22
-
13:05
-
12:47
-
12:33
-
12:15
-
11:51
-
11:30
-
11:11
-
11:08
-
10:56
-
10:47
-
10:45
-
10:41
-
10:34
-
10:28
-
10:27
-
10:21
-
10:10
-
10:09
-
10:05
-
09:49
-
09:48
-
09:48
-
09:16
-
08:14
-
08:07
-
07:46
-
07:40
-
07:36
-
07:29
-
07:25
-
07:20
-
07:14
-
07:07
-
07:07
