OpenAI 破坏与俄罗斯和伊朗相关的两项影响行动
OpenAI 表示，它已识别并破坏了两项影响行动，这些行动涉嫌使用 ChatGPT 制作和传播关于地缘政治冲突的误导性内容。根据该公司关于人工智能滥用的最新报告，这些活动分别与俄罗斯和伊朗的参与者有关，分别被称为“黑暗克拉克”和“虚假署名”。
这些发现突显了人们对生成性人工智能工具如何融入协调的信息活动的日益担忧。虽然这些系统可以协助写作、翻译和研究，但它们也可能被滥用来准备欺骗性叙事、伪造身份并为不同受众调整内容。
根据 OpenAI 的说法，黑暗克拉克行动针对多个拉丁美洲国家的受众，内容旨在削弱乌克兰并批评某些地区政治领导人。被识别的活动之一是在 TikTok 上传播一段据称伪造的音频录音，声称是乌克兰驻厄瓜多尔领事的录音。运营者还 reportedly使用假电子邮件地址鼓励秘鲁的学校组织与乌克兰相关的活动。
OpenAI 表示，它将该活动评估为其六点量表中影响行动的五级。尽管如此，该公司仍然警告说，参与者所提出的某些主张无法独立验证，强调了确定隐秘在线活动的全面影响和有效性的困难。
第二项行动，名为虚假署名，涉嫌专注于制作关于美国与伊朗之间冲突的误导性文章。OpenAI 表示，ChatGPT 被用来完善草稿、使文章适应在线出版物的编辑要求，并准备旨在确保发表的提交电子邮件。
该活动 reportedly依赖于七位虚构作者，他们自称是西方记者。OpenAI 表示，自 2025 年 7 月以来，它已识别出在十多个媒体平台上发布了近 100 篇文章。报告的活动说明了伪造身份和人工智能辅助写作如何结合在一起，试图使误导性材料看起来可信。
使用已建立的媒体平台可以使误导性内容接触到超出新创建社交媒体账户的受众。发布在知名网站上的文章也可能在其他地方被分享、被其他用户引用或被纳入更广泛的在线讨论中，从而可能使内容的原始来源和目的更难以识别。
然而，单独发布一篇文章并不能确立有多少人接触过它，读者是否相信其主张，或者它是否改变了公众舆论。评估此类活动的实际影响需要有关分发、受众参与和更广泛信息环境的证据。
这些案例还引发了关于人工智能公司在识别和限制协调滥用方面的角色的问题。OpenAI 表示，它监控可疑活动，并对违反其政策的账户采取行动。这些措施是技术行业更广泛努力的一部分，旨在检测自动化操控、冒充和故意传播虚假信息。
与此同时，人工智能写作工具的日益可用性使得区分合法政治评论和有组织的欺骗变得复杂。调查人员和平台不仅必须考虑内容本身，还必须考虑行为模式、账户之间的协调、伪造身份以及试图隐藏消息背后是谁的行为。
OpenAI 的发现指出了一种不断演变的数字宣传形式，其中人工智能可以支持误导性材料的制作和调整，而现有的社交网络和在线出版物提供了潜在的分发渠道。报告强调了透明来源、独立验证以及技术公司、媒体组织和研究人员在调查影响活动方面加强合作的重要性。
-
14:14
-
13:55
-
13:50
-
13:35
-
13:33
-
13:15
-
13:00
-
12:42
-
12:21
-
12:05
-
11:45
-
11:37
-
11:30
-
11:11
-
10:47
-
09:32
-
09:28
-
09:20
-
09:15
-
08:50
-
08:48
-
08:32
-
08:15
-
23:15
-
23:00
-
22:42
-
22:22
-
22:00
-
21:30
-
21:00
-
21:00
-
20:32
-
20:30
-
20:15
-
20:10
-
19:50
-
19:30
-
19:25
-
19:20
-
19:05
-
18:45
-
18:30
-
18:18
-
18:00
-
17:30
-
17:15
-
17:10
-
16:45
-
16:15
-
15:25
-
15:00
-
14:40
-
14:26
