关键词： 深度伪造
Meta暂停了一项最近推出的人工智能图像生成功能，此举是因为用户、隐私倡导者和娱乐行业代表对个人图像未经授权使用的担忧而广泛批评。该功能旨在创建受Instagram上分享的内容启发的AI生成图像，允许用户根据公开可用的个......
尽管出台了新政策，但人工智能生成的关于中东战争的虚假视频仍充斥着社交媒体平台X的信息流 埃隆·马斯克旗下的X平台仍在传播人工智能生成的视频，这些视频描绘了美军被伊朗俘虏、以色列城市沦为废墟以及美国大使馆被焚毁的场景，凸显了尽管政府出台了旨在遏制战时虚假信息的政策，但逼真的深度伪造视频仍然层出不穷。 研究人员表示，中东战争引发了人工智能生成的视觉内容的雪崩式增长，其规模远超以往任何冲突，并常常使社交媒体用户难以区分真假。 为了在冲突期间保护“真实信息”，X平台上周宣布，如果创作者发布未经披露的人工智能生成的战争视频，将被暂停参与其收益分成计划90天。 X平台产品负责人尼基塔·比尔在一篇帖子中警告说，再次违规将导致永久封禁。 自马斯克于2022年10月完成对Xbox的440亿美元收购以来，该平台一直因沦为虚假信息的温床而饱受诟病。这项新政策标志着Xbox平台的一次重大转变。 美国国务院高级官员萨拉·罗杰斯也对此表示赞赏，称其是对Xbox社区笔记（一个众包验证系统）的“极佳补充”，该系统能够“减少不实内容的传播范围（从而降低其盈利能力）”。 但虚假信息研究人员对此仍持怀疑态度。 战略对话研究所的乔·博德纳告诉法新社：“我监控的信息流仍然充斥着大量关于战争的AI生成内容。” 他表示：“似乎并没有人劝阻创作者停止发布关于冲突的误导性AI生成图像和视频。” 博德纳指出，一个拥有顶级“蓝V”认证的Xbox账号（符合盈利条件）发布了一条帖子，分享了一段AI生成的视频，视频中描绘了伊朗对以色列发动“核打击”。 这条帖子获得的浏览量超过了比尔关于打击人工智能内容的声明。 虚假信息的滋生 法新社询问X公司自比尔宣布以来取消了多少个账户的盈利资格，但X公司没有回应。 法新社的全球事实核查员网络——从巴西到印度——发现了一系列关于中东战争的人工智能虚假信息，其中许多来自X公司带有蓝色认证标记的付费高级账户。 这些虚假信息包括：人工智能制作的视频，例如一名美国士兵在被炸毁的大使馆内泪流满面；被俘的美军士兵跪在伊朗国旗旁；以及一支被摧毁的美国海军舰队。 大量人工智能伪造的视觉内容——其中混杂着来自中东的真实图像——持续增长，其速度远远超过了专业事实核查员的辟谣能力。 X公司自己的人工智能聊天机器人Grok似乎加剧了这个问题，它错误地告诉寻求事实核查的用户，许多来自战争的人工智能图像都是真实的。 研究人员还警告说，X......
巴黎检察官办公室周二表示，法国警方搜查了埃隆·马斯克旗下社交媒体平台X的办公室，并已传唤这位科技亿万富翁于4月接受讯问。此次行动是针对该公司展开的调查的一部分。 此次突击搜查和对马斯克的传唤——可能会进一步加剧欧美之间围绕大型科技公司和言论自由的紧张关系——与一项持续一年的调查有关，该调查旨在查明X公司或其高管涉嫌滥用算法和非法提取数据。 巴黎检察官办公室在一份声明中表示，由于收到有关X公司人工智能聊天机器人Grok运行情况的投诉，他们正在扩大调查范围。 调查内容包括色情深度伪造视频 此次调查还将包括涉嫌参与“存储和传播”儿童色情图像，以及利用色情深度伪造视频侵犯他人肖像权等其他潜在罪行。 马斯克和前首席执行官琳达·亚卡里诺于4月20日被传唤出席听证会。其他X员工也被传唤作证。 X方面未立即对此事发表评论。7月，马斯克否认了最初的指控，并表示法国检察官正在发起一项“出于政治动机的刑事调查”。 检察官办公室表示：“现阶段，这项调查是建设性举措的一部分，其最终目的是确保X平台在其法国境内运营时遵守法国法律。” 此类传唤是强制性的，但对于居住在法国境外的人来说，执行起来比较困难。 听证会结束后，当局可以决定搁置或继续调查，并有可能将嫌疑人拘留。 检察官办公室退出对X的调查 检察官办公室的网络犯罪部门正在与法国警方的网络犯罪部门和欧洲刑警组织联合进行这项调查。 巴黎检察官办公室表示，他们接到一位议员的举报后展开了调查。该议员声称，X平台中存在偏见的算法可能扭曲了自动化数据处理系统的运行。 这位议员埃里克·博索雷尔(Eric......
马来西亚和印尼因滥用人工智能生成的色情内容暂停Grok服务 马来西亚和印尼成为首批暂停使用Grok的国家。Grok是由埃隆·马斯克旗下xAI公司开发的人工智能聊天机器人，此前有关部门称其被滥用以生成未经同意的色情图像。 此举反映出全球对生成式人工智能工具日益增长的担忧，这些工具能够生成逼真的图像、声音和文本，而现有的安全措施却无法阻止其被滥用。 Grok聊天机器人可通过马斯克的社交媒体平台x访问，它因生成篡改图像而受到批评，这些图像包括身着比基尼或摆出色情姿势的女性，以及涉及儿童的图像。 这两个东南亚国家的监管机构表示，现有的管控措施无法阻止虚假色情内容的制作和传播，尤其是涉及女性和未成年人的内容。印尼政府于周六暂时封锁了Grok，马来西亚随后于周日也采取了同样的措施。 印尼通信与数字事务部长梅蒂亚·哈菲德（Meutya......
-
11:11
-
11:02
-
10:57
-
10:55
-
10:48
-
10:45
-
10:27
-
10:15
-
10:10
-
09:48
-
09:33
-
09:21
-
09:15
-
09:08
-
09:05
-
08:55
-
08:52
-
08:50
-
08:47
-
08:47
-
08:40
-
08:32
-
08:30
-
08:23
-
08:18
-
08:15
-
08:15
-
08:02
-
07:47
-
07:44
-
07:39
-
07:34
-
07:32
-
07:27
-
07:22
-
07:15
-
07:09
-
07:09
-
15:27
-
15:01
-
14:04
-
13:54
-
13:40
-
13:29
-
13:22
-
13:04
-
13:01
-
12:56
-
12:53
-
12:50
