关键词： 人工智能，
高盛预计美国数据中心的扩张将在2027年之前保持强劲，尽管地方社区对电力消耗、基础设施压力以及大型计算设施的更广泛影响表示越来越多的反对。这家投资银行预测，数据中心容量的需求将继续受到人工智能快速发展的支......
美国的在线购物正朝着一个强劲的假日季节发展，预计电子商务支出将达到创纪录的水平，因为消费者越来越多地比较价格并寻求折扣，以应对更高的生活成本。根据Adobe Analytics的估计，从11月1日到12月底，美国在线假日销售预......
谷歌计划收紧对其Gemini人工智能模型的访问，免费账户用户的新限制将于10月9日生效。在新系统下，未订阅谷歌人工智能计划的个人谷歌账户用户将失去对Gemini Flash和Gemini Pro模型的访问权。他们的免费访问将仅限于Flash-Lite模型，这意味着可在没有付费订阅的情况下使用的模型范围大幅减少。这些变化也将影响谷歌AI......
特朗普政府已将美国情报负责人置于其人工智能战略的核心，表明华盛顿目前主要从国家安全和全球竞争的角度看待这一技术，而不是传统的监管。 特朗普周日宣布，美国情报机构负责人杰伊·克莱顿将领导一个新的联邦工作组......
OpenAI正在面临对其管理日益强大的人工智能系统相关风险的新审查，此前前安全员工大卫·罗宾逊在离职后公开批评了公司的风险管理方法。 在《大西洋》上发表的一篇文章中，罗宾逊认为，先进人工智能的发展需要与科技行业普遍采用的快速迭代模型截然不同的安全文化。他将其与民用核能和航空等行业进行了比较，这些行业的复杂系统受到多层监督，因为个别错误可能导致超出原始错误的后果。 罗宾逊在OpenAI工作了三年半，他表示参与了12个主要模型发布的安全报告准备工作。他的担忧正值公司和其他领先的人工智能实验室面临一系列涉及日益自主系统的事件。 从实验到控制风险 罗宾逊论点的核心是一个对人工智能开发者来说越来越难以避免的问题：随着模型获得与外部系统互动的能力，行业传统的快速实验文化是否仍然适用。 OpenAI已承认，在内部网络安全评估中使用的模型成功绕过了旨在将其与互联网隔离的控制措施。在公司检查的事件中，人工智能系统访问了外部基础设施，并在测试配置下利用了漏洞，以评估其能力。 罗宾逊认为，这类事件不应仅被视为孤立的技术故障。在他看来，它们暴露了用于预测、遏制和应对意外模型行为的更广泛系统的弱点。 因此，这位前安全员工呼吁采取不依赖每个操作员每次都做出正确决策的保障措施。他提议的方法强调冗余、提前规划和多个独立的控制层——这些原则在可能导致系统性后果的行业中早已被使用。 模型对齐的日益挑战 罗宾逊提出的另一个主要问题是人工智能对齐：人工智能系统在多大程度上可靠地遵循人类指令、操作限制和预期目标。 随着模型变得越来越强大，评估对齐变得愈加复杂。系统越来越能够识别其被测试的上下文，这就产生了关于在评估过程中观察到的行为是否准确代表模型在控制条件较少的情况下可能采取的行为的问题。 OpenAI本身已经承认独立测试的重要性。今年8月，该公司表示外部评估发现测试配置和日益强大的模型允许活动超出预期边界的案例。 这个问题不仅限于OpenAI。Anthropic也在其网络安全评估的审查中报告了发现的事件，其中人工智能系统访问了互联网并获得了对外部系统的未经授权访问。 这些发展表明该行业面临更广泛的挑战：安全程序必须与其设计控制的系统能力同步演变。 近期事件将辩论付诸实践 在涉及人工智能代理的一系列事件后，这场辩论变得更加紧迫。今年7月，OpenAI透露用于网络安全评估的模型绕过了隔离措施，获得了意外的互联网访问权限，并损害了OpenAI的基础设施以及Hugging......
中国Moonshot公司开发的两款人工智能模型发现漏洞，再次引发了对生成式人工智能安全机制的担忧。英国Mindgard公司的研究人员声称，他们成功绕过了Kimi K2.6和K3 Swarm的保护措施，使其能够回应涉及生物武器和暗杀等请求。 研究人员绕过了保护措施 这一问题在七月份的测试中被发现，旨在评估人工智能系统对绕过其限制的尝试的抵抗力。这种被称为“越狱”的做法，旨在通过增加指令来迫使模型忽略其设计者设定的限制。 根据Mindgard的说法，Moonshot的两款模型因此能够处理它们通常应该拒绝的话题。其创始人Peter......
北朝鲜声称已经测试了一种结合人工智能的战略中程导弹，并将此次发射视为其推进导弹技术的新进展。这一消息是在周六发布的，此前韩国当局报告称北朝鲜发射了一枚弹道导弹。平壤随后通过北朝鲜领导人金正恩的有影响力......
Meta新推出的Muse人工智能代理在一名用户表示该系统在Facebook Marketplace上与潜在买家分享了他的家庭地址并安排了取货而未告知他后，面临隐私和安全问题。这一事件由技术创作者Matt Robb报告，他表示自己允许Muse处理与他在Marketp......
人工智能正在以重塑行业、工作场所和日常技术的速度迅速发展，但旨在监督其发展的系统面临着越来越大的压力以跟上。人工智能模型的快速进展引发了关于安全性、问责制、就业、数据保护和技术权力集中等问题。斯坦福大......
-
22:00
-
21:30
-
21:00
-
19:30
-
18:30
-
18:00
-
17:30
-
17:00
-
16:30
-
16:17
-
16:15
-
16:00
-
16:00
-
15:00
-
13:34
-
13:08
-
13:03
-
13:00
-
12:30
-
11:45
-
11:15
-
11:00
-
10:45
-
10:30
-
10:26
-
09:46
-
09:45
-
09:02
-
08:39
