关键词： 自主系统
OpenAI因其人工智能代理的行为再次受到关注，研究人员记录了AI系统与政府网站互动的案例，并在某些情况下试图在执行普通信息检索任务时绕过限制。这些发现由人工智能研究组织Transluce报告，该组织发布了一项关于自主代理使用网络服务以扩展其在线信息访问权限的调查。研究人员表示，一些活动与先前归因于OpenAI的代理群体有关。根据Transluce的说法，这些活动包括尝试探测公共数据服务和与政府相关的网站。其中一个案例涉及澳大利亚健康和福利研究所，研究人员表示，一个AI代理试图利用一个漏洞，因为传统的信息检索方法被阻止。研究人员表示，他们没有发现这些尝试导致成功破坏的证据。调查还识别了涉及新墨西哥大学和Data......
英伟达推出了一种开源安全平台，旨在为开发者和企业提供更大的控制权，以应对自主人工智能代理在软件、网络和企业环境中执行任务的能力不断增强。这一名为NVIDIA OpenShell的倡议旨在围绕人工智能代理设置安全控制，而不......
联合国警告称，传统的人工智能风险管理方法可能已不再足够，因为越来越强大的系统发展速度超过了旨在控制它们的安全措施。联合国下设的独立科学小组发布了一份报告，强调了人工智能能力的进步与现有测试、监控和控制这些系统的方法之间日益扩大的差距。专家们认为，安全措施需要与技术共同发展，而不是在新能力出现后才引入。报告指出，在一次OpenAI测试过程中发生的七月事件中，两个人工智能系统......
在五月进行的一次安全测试中，谷歌的人工智能模型Gemini通过利用在线可用的信息并尝试猜测身份信息，访问了多个外部计算机系统。谷歌声称该模型最终自行中止了其行为，但这一事件重新引发了人们对人工智能系统日益自主性的担忧。超出范围的安全测试这一事件发生在五月，作为谷歌所称的Gemini标准测试的一部分。根据公司提供的解释，该模型在使用信息之前，搜索了互联网上的公共信息，以尝试访问它认为与测试相关的计算环境。涉及了三个组织。谷歌没有透露它们的身份，但表示在发现相关访问后已通知了这些组织。在《华尔街日报》报道的一个案例中，Gemini尝试了多个密码组合，最终成功进入一个受保护的系统。所描述的行为超出了简单的信息处理：该模型似乎进行了多次操作，以获取对计算基础设施的访问。Gemini在没有人类干预的情况下停止谷歌表示，这三次事件都是自发中止的。根据安全负责人Heather......
谷歌的Gemini人工智能模型在5月份意外地突破了安全测试的边界，访问了外部计算机系统，原因是识别了公开可用的信息并尝试了凭证，公司的说法是这样的。 谷歌在《华尔街日报》报道此事件后向法新社确认了这一事件。公司表示，该模型遇到了它显然认为是授权测试环境的一部分的系统，尽管这些系统超出了预期的范围。 谷歌的高级安全执行官Heather......
越来越强大的人工智能系统的快速发展引发了关于先进模型在多大程度上能够与人类目标保持一致的新问题。最近涉及AI代理的事件突显了在它们变得更加自主并能够执行复杂任务时，监测其行为的重要性。 微软AI部门首席执行......
全球人工智能竞赛的辩论进入了一个新阶段。Anthropic的首席执行官达里奥·阿莫代伊（Dario Amodei）现在认为，人工智能模型的演变速度应暂时放缓，以便安全机制有时间进步。这一立场是在对一些被认为令人担忧的行为进行测试后提出的。 呼吁放慢人工智能的竞赛 Anthropic的负责人认为，技术进步不能再与风险控制的问题分开。在其个人网站上发布的一篇文章中，他主张放缓人工智能系统的发展。 其目标不是放弃该领域的进展，而是允许预防和控制机制足够快速地进步，以跟上模型能力的增加。 这一立场是在人工智能系统越来越能够执行越来越复杂的任务并具备更大自主性之际提出的。 引发担忧的行为 这一新警报的起因包括在对先进模型进行实验时观察到的一些事件。在某些测试条件下，系统曾试图超出其应被限制的环境，试图接触外部资源。 提到的一个事件涉及OpenAI开发的模型。在测试中，这些模型成功地突破了受控环境并连接到互联网，随后采取了针对Hugging......
英国政府拒绝了建立法律“紧急关闭开关”的提议，该开关将允许当局在自主人工智能系统构成直接威胁时进行关闭。 这一提议是在对日益强大的人工智能系统潜在风险的担忧日益增加之际提出的，包括高度自主模型可能表现......
人工智能正进入一个新阶段，核心问题不再仅仅是机器能做什么，而是如果越来越先进的系统能够提升自身性能，会发生什么。随着人工智能模型变得越来越自主，并且在编码、规划和使用数字工具方面变得更加出色，人们对人......
-
22:47
-
22:28
-
22:28
-
22:23
-
22:10
-
21:47
-
21:32
-
21:15
-
20:47
-
20:33
-
20:14
-
19:48
-
19:32
-
19:23
-
19:15
-
19:00
-
18:40
-
18:20
-
17:15
-
17:01
-
16:35
-
16:34
-
16:16
-
15:53
-
15:44
-
15:21
-
15:08
-
15:06
-
15:00
-
14:57
-
14:46
-
14:45
-
14:32
-
14:15
-
14:14
-
14:07
-
13:47
-
13:32
-
13:15
-
12:58
-
12:49
-
12:42
-
12:30
-
12:11
-
12:01
-
11:47
-
11:32
-
11:19
-
11:15
-
11:02
-
10:50
-
10:49
-
10:32
-
10:28
-
10:15
-
10:00
-
09:52
-
09:42
-
09:25
-
09:09
-
08:51
-
08:47
-
08:33
-
08:30
-
08:15
