尽管出台了新政策，但人工智能生成的关于中东战争的虚假视频仍充斥着社交媒体平台X的信息流

星期日 15 三月 2026 - 11:18

埃隆·马斯克旗下的X平台仍在传播人工智能生成的视频，这些视频描绘了美军被伊朗俘虏、以色列城市沦为废墟以及美国大使馆被焚毁的场景，凸显了尽管政府出台了旨在遏制战时虚假信息的政策，但逼真的深度伪造视频仍然层出不穷。

研究人员表示，中东战争引发了人工智能生成的视觉内容的雪崩式增长，其规模远超以往任何冲突，并常常使社交媒体用户难以区分真假。

为了在冲突期间保护“真实信息”，X平台上周宣布，如果创作者发布未经披露的人工智能生成的战争视频，将被暂停参与其收益分成计划90天。

X平台产品负责人尼基塔·比尔在一篇帖子中警告说，再次违规将导致永久封禁。

自马斯克于2022年10月完成对Xbox的440亿美元收购以来，该平台一直因沦为虚假信息的温床而饱受诟病。这项新政策标志着Xbox平台的一次重大转变。

美国国务院高级官员萨拉·罗杰斯也对此表示赞赏，称其是对Xbox社区笔记（一个众包验证系统）的“极佳补充”，该系统能够“减少不实内容的传播范围（从而降低其盈利能力）”。

但虚假信息研究人员对此仍持怀疑态度。

战略对话研究所的乔·博德纳告诉法新社：“我监控的信息流仍然充斥着大量关于战争的AI生成内容。”

他表示：“似乎并没有人劝阻创作者停止发布关于冲突的误导性AI生成图像和视频。”

博德纳指出，一个拥有顶级“蓝V”认证的Xbox账号（符合盈利条件）发布了一条帖子，分享了一段AI生成的视频，视频中描绘了伊朗对以色列发动“核打击”。

这条帖子获得的浏览量超过了比尔关于打击人工智能内容的声明。

虚假信息的滋生

法新社询问X公司自比尔宣布以来取消了多少个账户的盈利资格，但X公司没有回应。

法新社的全球事实核查员网络——从巴西到印度——发现了一系列关于中东战争的人工智能虚假信息，其中许多来自X公司带有蓝色认证标记的付费高级账户。

这些虚假信息包括：人工智能制作的视频，例如一名美国士兵在被炸毁的大使馆内泪流满面；被俘的美军士兵跪在伊朗国旗旁；以及一支被摧毁的美国海军舰队。

大量人工智能伪造的视觉内容——其中混杂着来自中东的真实图像——持续增长，其速度远远超过了专业事实核查员的辟谣能力。

X公司自己的人工智能聊天机器人Grok似乎加剧了这个问题，它错误地告诉寻求事实核查的用户，许多来自战争的人工智能图像都是真实的。

研究人员还警告说，X 的模式——允许高级账户根据互动量获得收益——极大地刺激了兜售虚假或耸人听闻内容的经济动机。

一个高级账户发布了一段人工智能制作的迪拜哈利法塔被大火吞噬的视频，无视了比尔要求其将内容标记为人工智能内容的请求。

该帖子一直在线，获得了超过两百万的观看量。

“应对措施”

上个月，科技透明度项目 (Tech Transparency Project) 的一份报告称，X 似乎从二十多个属于伊朗政府官员和官方控制新闻机构的高级账户中获利，这些账户散布宣传内容，可能违反了美国的制裁。

报告称，X 随后取消了其中一些账户的蓝色认证标记。

研究人员表示，即使 X 的取消盈利政策得到严格执行，大量兜售人工智能内容的 X 用户仍然无法参与收益分成计划。

这些用户仍然需要通过“社区评论”（Community Notes）进行事实核查，但该系统的有效性一直受到研究人员的质疑。

去年，美洲数字民主研究所（Digital Democracy Institute of the Americas）的一项研究发现，X平台超过90%的“社区评论”从未被发布，凸显了其重大局限性。

“X平台的政策是应对战争相关虚假信息病毒式传播的合理反制措施。原则上，这项政策降低了传播虚假信息的动机，”康奈尔科技学院安全、信任与保障倡议主任阿莱克西奥斯·曼扎里斯（Alexios Mantzarlis）表示。

“魔鬼藏在细节里：人工智能内容的元数据可能会被移除，而且‘社区评论’相对较少，”他说道。

“X平台不太可能保证这项政策同时具备高精度和高召回率。”

关键词：

了解更多关于我们的信息！