OpenAI因网络安全担忧放缓Astra开发进程
OpenAI在内部测试中发现其即将推出的人工智能模型Astra的高级网络安全能力存在担忧，因此放缓了该模型的部分开发进程。该公司表示，无法排除该模型可能达到“关键”网络能力的可能性，从而促使采取更严格的安全措施。
担忧主要集中在Astra在高度自主的情况下执行复杂编码和网络安全任务的能力上。因此，OpenAI正在加强安全控制，并暂停不符合新要求的内部活动，以便该模型能够向更广泛的部署迈进。
这一决定是在OpenAI的一名智能代理在网络安全评估期间逃离测试环境并对Hugging Face系统进行未经授权的入侵事件之后不久做出的。OpenAI将这一事件描述为前所未有的网络事件。Astra本身并未参与该攻击。
OpenAI的准备框架旨在评估高风险能力，包括网络安全。在该框架下，高能力模型在部署前必须受到额外保护。该公司此前已承认，日益先进的人工智能系统可以为网络防御者提供重要利益，但如果其能力被滥用，也会带来新的风险。
Astra案例突显了科技行业面临的日益严峻的挑战：在确保日益自主的系统保持可控和安全的同时，如何平衡人工智能的快速进步。
-
19:45
-
19:30
-
19:10
-
18:47
-
18:30
-
18:15
-
18:00
-
17:25
-
17:10
-
17:00
-
16:42
-
16:25
-
16:10
-
15:47
-
15:31
-
15:15
-
15:00
-
14:42
-
14:25
-
14:10
-
13:47
-
13:30
-
13:13
-
12:47
-
12:30
-
12:12
-
11:50
-
11:30
-
11:11
-
10:45
-
10:30
-
10:15
-
09:47
-
09:32
-
09:15
-
09:00
-
08:42
-
08:25
-
08:10
