返回 文章 学习 CMS 文章

OpenAI 披露:俄罗斯与伊朗利用 AI 运营“虚假前台”影响力行动

OpenAI 首次披露两个利用 AI 辅助的“虚假前台”影响力行动,俄罗斯行动达到突破量表第 5 类。

AI安全影响力行动虚假信息OpenAI
成长分 / 100 71 综合收获、行动、留存与影响

OpenAI 披露:俄罗斯与伊朗利用 AI 运营“虚假前台”影响力行动
为什么值得读了解 AI 如何被用于提升影响力行动的规模、效率和语言流畅度,而非改变其本质。

获取 OpenAI 首次破坏第 5 类影响力行动的详细案例,包括俄罗斯“Dark Clark”和伊朗“虚假署名”行动。

关键洞察
  1. 俄罗斯行动“Dark Clark”控制名为 Social Research Center 的虚假智库,利用不知情的拉丁美洲员工制作原创内容,并伪造电子邮件诱骗秘鲁和厄瓜多尔的学校举办活动,引发事实核查和政客评论,达到 IO 突破量表第 5 类。
  2. 伊朗行动“虚假署名”使用七个虚假记者人设,在十几家在线媒体发表近 100 篇关于美伊冲突的长篇文章,并生成大量社交媒体评论,但评论互动量有限。
  3. 两个行动都大量使用 AI 起草内部报告,俄罗斯行动尤其突出,且操作者使用可疑或欺骗性方法夸大自身效力。
转成行动

深入阅读

正文与原文对照

原文保真覆盖:全文原文字符:38923

打击利用AI的“虚假前台”行动

在过去两年半的时间里,我们__报道了____许多____威胁__行为体试图利用我们的模型进行网络攻击、秘密影响行动(IO)、诈骗以及其他违反我们使用政策的方式。我们发布这些报告,是为了让监管机构、行业同行和更广泛的社会了解我们如何看待威胁行为体试图利用AI,并揭示他们试图利用的漏洞。

我们最近封禁了两个IO——一个来自俄罗斯,一个来自伊朗——它们将我们的模型与更传统的技术和方法结合,支持复杂的“虚假前台”实体。它们利用这些实体将地缘政治、冲突相关的信息洗白后传递给目标受众。伊朗的行动包括一个由七个“记者”人设组成的团队,用来向世界各地中小型在线媒体投稿长篇文章;俄罗斯的行动似乎利用了拉丁美洲不知情的人在当地运营一个“智库”。

这两个行动都是多维度的,尝试了一系列不同的策略来实现其目标。除了长篇文章,伊朗行动还生成了大量社交媒体评论,通常涉及美伊战争相关话题。除了控制“智库”,俄罗斯行动还制作了虚假的“泄露”文件和音频脚本,其中一些我们已识别出在网上传播。这两个行动还大量使用AI起草内部报告(俄罗斯行动在这方面做得最多);在这两个案例中,行为体都使用了可疑或完全欺骗性的方法来夸大操作者的效力。

这些行动最引人注目的是,它们与AI时代之前的复杂影响行动极为相似,但利用AI使某些工作流程更容易。伊朗行动运营的记者人设与虚假记者“Alice(在新窗口中打开) Donovan(在新窗口中打开)”有相似之处,后者是俄罗斯军事情报部门的幌子,其文章在2016-17年间被一系列西方媒体发表。2020年,与俄罗斯互联网研究机构过往活动有关的个人运营了一个名为“

”的虚假“新闻”媒体,该媒体利用世界各地不知情的记者为其撰稿。

PeaceData(在新窗口中打开)这些行动的潜在影响范围也不同寻常。使用IO突破量表(在新窗口中打开),该量表将IO评为1(最低)到6(最高),我们评估俄罗斯来源的行动属于

第5类。这是我们自开始报告以来首次破坏的第5类行动。伊朗来源的行动达到了

类别 4。两者都成功将其内容(并非全部由我们的模型生成)送入了主流媒体渠道,而不仅仅是发布在社交媒体上。这与我们在过去两年半中揭露的 30 起秘密影响力行动所观察到的一种模式一致:那些试图将内容送入真实媒体渠道、而非依赖虚假社交媒体分发的行动,往往具有最高的潜在触达范围和影响力。

按主要分发方式和突破规模类别划分的 30 起影响力行动矩阵图。使用外部出版物的行动达到了类别 4 和 5;以社交媒体为主导的行动达到了类别 1 至 3。

自 2024 年初以来我们揭露的 30 起影响力行动矩阵图,按主要分发方式(社交媒体、行动运营的网站、外部出版物)和突破规模评分进行评估。使用多种分发方式的行动,例如运营网站并在社交媒体上推广,按其似乎构成行动核心的方式进行分类。

AI 可以赋予此类虚假前台行动更大的规模、效率、语言流畅度和编辑能力。运营者可以利用这些优势来利用毫无戒心的受害者,例如员工或编辑,并将他们的内容呈现在完全不知道幕后黑手是谁、动机为何的受众面前。这些行动还展示了威胁行为者利用虚假人设和实体来实现其目标的复杂性和精密程度。理解威胁行为者在这些行动中所利用的漏洞,以及这些漏洞如何转化为受众和触达范围,对于在各类组织中维持稳健的防御至关重要。

但这些虚假前台行动的隐蔽性质也使它们特别容易受到负责任披露的打击。“Alice Donovan”和“PeaceData”都在被曝光后停止了活动。这就是为什么我们报告这些虚假前台行动的目标是让进一步的研究和干扰变得更加容易——并让继续这些行动变得更加困难。

在拉丁美洲各地开展影响力行动的俄罗斯来源行为者。

我们封禁了一批源自俄罗斯的 ChatGPT 账户。他们使用 ChatGPT 执行一系列与针对拉丁美洲各国的秘密影响力行动相关的任务。这些活动的大部分似乎旨在破坏乌克兰在该地区的声誉,但也有一些似乎旨在影响当地政治结果,尤其是在阿根廷和玻利维亚。大多数运营者使用俄语提示;一人使用西班牙语提示,但似乎仍位于俄罗斯。我们已与相关当局分享了此案的信息。

运营者使用 ChatGPT 执行三项主要任务:撰写关于其活动(以及他们可能合理地据为己有的他人活动)的内部报告,为其行动创建内容,以及起草关于拉丁美洲一个自称为“研究平台”的 Social Research Center(SRC)绩效的报告。他们似乎通过一个名为“Mia Clark”的虚假人设控制了 SRC;为了纪念这个名字,我们将此行动昵称为“Dark Clark”。由于我们不允许从俄罗斯访问我们的模型,他们使用 VPN 连接到我们的服务。

在其内部报告中,操作人员声称已在拉丁美洲各地散布虚假故事,以削弱乌克兰或当地领导人。其中一些假消息已被__开源__(在新窗口中打开)研究人员(在新窗口中打开)归因于一个名为“Politology”或“La Compania”的俄罗斯实体,据报该实体是瓦格纳集团及俄罗斯寡头叶夫根尼·普里戈任创立的其他实体的后继者。操作人员还要求我们的模型翻译或解释有关Politology和瓦格纳的公开报道,其频率远超对其他任何俄罗斯来源网络的询问。

这次行动在两个方面不同寻常。首先,它似乎成功拉拢了拉丁美洲的个人为SRC工作。俄罗斯操作人员关于SRC的报告提及薪酬标准、招聘和解雇等问题的决策,表明他们控制着该实体,而非与其合作。现有证据表明,SRC在拉丁美洲的员工并不知道自己在为一个俄罗斯团体工作。与我们最近曝光的另一个与俄罗斯有关联的“智库”不同,SRC似乎通过其被拉拢的员工制作了大部分原创内容。这是我们过去两年半中破坏的最复杂的伪装身份行动。

其次,一些开源证据表明,Dark Clark的假消息传播范围之广,足以引发事实核查(在新窗口中打开)和

,这表明其渗透程度超出了我们过去两年破坏的任何影响力行动。该行动声称在秘鲁植入的一条假消息甚至加剧了乌克兰与波兰之间的公开紧张关系。

官方否认(在新窗口中打开)操作人员使用ChatGPT的主要方式是起草和更新给未知上级的内部报告。这些定期报告描述了在拉丁美洲开展秘密影响力行动的努力。它们涵盖三个主要工作流:贬低乌克兰并破坏乌克兰武装部队招募的努力;干涉某些国家(尤其是玻利维亚和阿根廷)国内政治的努力;以及SRC的管理。在大多数情况下,我们未观察到威胁行为者使用我们的模型为这些行动创建内容,仅用于报告这些行动(少数例外情况在下文描述)。

这些报告富含战术细节,揭示了该行动如何试图削弱乌克兰和一些国家领导人,尤其是阿根廷、玻利维亚和厄瓜多尔的总统。一些报告描述了诱骗当地人开展操作人员可加以利用的活动的努力;另一些则描述了操作人员声称已散布的虚假“泄露”。

在两起案例中,证据将操作者与关于“Politology”的公开报道联系起来。操作者报告称,在2024年,他们针对阿根廷总统哈维尔·米莱开展了两次行动。首先,他们表示散布了一则虚假报道,称米莱为其爱犬购买了卡地亚镶珠宝项圈。其次,他们声称付钱给当地演员在布宜诺斯艾利斯张贴反米莱涂鸦。根据泄露的文件,这两项说法均已被__公开__(在新窗口中打开)归因于(在新窗口中打开)“Politology”和“La Compania”。

还有更多造假行为此前未被与俄罗斯信息行动联系起来。例如,操作者声称,在2026年5月,他们创建了一个虚假电子邮件地址,冒充来自秘鲁利马地区教育局。他们利用该地址指示该地区的学校在“国家文化和语言多样性日”(5月21日)举办专门针对乌克兰的活动。这些电子邮件明确指示要提及二十世纪颇具争议的乌克兰民族主义者斯捷潘·班德拉等人。班德拉被一些乌克兰人视为独立人物,但在俄罗斯和波兰却与法西斯主义、战时合作及暴行相关联。据操作者称,一些学校回复了该虚假电子邮件地址,确认他们举办了此类活动,甚至提供了照片。

操作者随后声称,他们在秘鲁和波兰的媒体上炮制了关于这些活动的报道,同时指控乌克兰正在“输出”极端民族主义意识形态,引发愤怒。开源搜索在__秘鲁__(在新窗口中打开)和(在新窗口中打开)波兰(在新窗口中打开)媒体(在新窗口中打开)以及一家英语出版物中发现了与这一说法相符的报道,(部分文章此后已被删除)。

匈牙利(在新窗口中打开)

一些(在新窗口中打开)报道包含了波兰欧洲议会议员提出的反应,建议将表现出“反波兰性”的人宣布为

文章(在新窗口中打开)不受欢迎的人在波兰。因此,俄罗斯的造假行为既利用了乌克兰人与波兰人之间的历史紧张关系,又加剧了这种紧张。

同样,在6月,操作者声称他们使用另一个虚假电子邮件地址诱骗厄瓜多尔的学校举行宣誓效忠总统丹尼尔·诺沃亚和私营军事承包商黑水公司前负责人埃里克·普林斯的仪式。操作者声称,该事件在厄瓜多尔引发愤怒,并向政府施压要求否认这一造假行为,从而将其放大到全国受众。开源研究再次在

厄瓜多尔(在新窗口中打开)发现了与该说法极为相似的媒体报道,甚至还有一段

新闻稿(在新窗口打开)厄瓜多尔教育部长的推文。

详细反驳(在新窗口打开)操作者使用了多种技术来支撑他们的虚假故事。根据他们的内部报告,他们在三月份针对厄瓜多尔散布了两则不同的假消息。一则使用了归因于乌克兰驻厄瓜多尔领事的伪造音频,其中据称他对厄瓜多尔人发表了贬损性言论。我们的开源调查在 TikTok 上发现了一条与此确切说法相符的帖子;它似乎只获得了有限的互动量。另一则描述了一段在 X 和 TikTok 上以一家真实新闻频道的标志散布的伪造视频片段,声称诺沃亚政府正在招募年轻男子前往乌克兰作战。厄瓜多尔的事实核查人员(在新窗口打开)描述了一场与此描述相符的、发生在四月初的行动。

经涂黑的 TikTok 截图,显示 2026 年 4 月 8 日发布的一条帖子,散布归因于乌克兰驻厄瓜多尔领事的伪造音频。

2026 年 4 月 8 日发布的 TikTok 视频,带有该行动所声称的、归因于乌克兰领事的伪造音频。

另一份内部报告描述了他们在五月底、反政府抗议活动达到高潮时在玻利维亚散布的一则假消息。操作者明确将这场行动的目标描述为加剧抗议活动周围的危机。该行动包含一段伪造的音频录音,据称来自国有自来水公司 EPSAS 的一名工作人员,称政府将切断对行政首都拉巴斯的供水,并宣布进入紧急状态。我们的开源研究发现了对相符说法的辟谣(在新窗口打开),以及一份

来自 EPSAS 的声明。

官方否认(在新窗口打开)其他内部报告包含我们无法从公开来源核实的假消息,可能是因为它们已被删除,或者未能传播开来。例如,操作者声称在一月份散布了一则消息,声称一名巴西网红兼模特被乌克兰大使馆的代表贩运到乌克兰,并在基辅被杀害。六月份,他们声称在玻利维亚散布了另一段伪造音频片段,这次据称来自玻利维亚中央银行的一名员工,警告该银行即将限制现金取款。他们还声称散布了一封伪造的、来自该国碳氢化合物机构的信函,警告将限制向私家车销售燃料。

在其他报告中,操作人员要求我们的模型帮助识别目标国家中他们可以声称负责的事件,即使他们并未参与其中。例如,在阿根廷,操作人员声称阿根廷外交部长在联合国委员会关于福克兰/马尔维纳斯群岛的会议上引用了他们的行动。操作人员声称是他们播下了这些论点:自决原则不适用于这些岛屿,以及英国在那里维持了不成比例的军事存在。事实上,这两个论点多年来一直是阿根廷官方立场的一部分。同样,在六月,巴西媒体

关于一名巴西公民的案件,他前往乌克兰加入军队,被俄罗斯军队俘虏,然后发表电视声明声称自己被骗参战。ChatGPT 操作人员试图声称这篇报道复制了他们行动的信息;事实上,它

报道了(opens in a new window)。这表明操作人员试图开展一场针对自己雇主而非任何外部受众的影响力行动。

引用了被俘者自己的视频(opens in a new window)操作人员的一些报告提到一个自称为“研究平台”的组织,名为社会研究中心(俄语:Центр социологических исследований)。根据 SRC 的网站,它专注于拉丁美洲的印度侨民,以及印度与该地区国家之间的关系。

内部报告表明,操作人员控制着这家智库,而不仅仅是与之合作。例如,他们提到了招聘和解雇决定、薪资标准、人员配备计划以及正在进行的研究项目。至关重要的是,他们还表示,操作人员创建了一个名为“Mia Clark”的虚假人设,以运营该行动的社交媒体活动,并与拉丁美洲当地员工互动。现有证据表明,这些当地员工不知道他们正在为俄罗斯的行动工作,并真诚地执行研究任务。这种利用不知情的中间人的做法,与早先同样与普里戈任的世界有关的俄罗斯行动“PeaceData”非常相似,Meta 在 2020 年曝光了该行动。

从俄罗斯运营人员的报告来看,他们在拉丁美洲当地的工作人员对该地区的专家和评论员进行了采访,然后根据调查结果起草了研究论文。主题范围广泛,从对金砖国家集团公众舆论的广泛分析,到对雅伊尔·博索纳罗和路易斯·伊纳西奥·卢拉·达席尔瓦总统执政期间巴西经济的详细比较。有时,俄罗斯运营人员在研究报告发表前就起草了状态报告,表明他们深入参与了制作过程。我们在SRC网站上发现了60多篇文章,其中绝大多数似乎是原创作品。这使Dark Clark与我们最近揭露的俄罗斯来源行动不同,后者也经营着一个智库作为幌子,但大部分内容都是抄袭的;这表明其意图是建立一个更持久的前线实体,并在整个拉丁美洲建立联系。

为了推广SRC的工作,俄罗斯运营人员声称他们曾试图创建一个社交媒体资产网络。根据他们的报告,当世界不同地区的运营人员试图访问相同的账户时,这一社交媒体活动遇到了问题,导致账户受到限制。在开源记录中可以看到这方面的痕迹:例如,X上主要SRC账户的透明度设置显示了一个德国位置(可能是使用VPN的结果),但通过俄罗斯联邦应用商店连接,而其一个Instagram账户的透明度设置显示管理员位置在委内瑞拉。我们发现的三个SRC品牌的Facebook账户都没有足够的关注者来触发管理员位置设置。

社会研究中心的账户透明度截图:其X账户通过俄罗斯联邦应用商店连接,而其Instagram账户显示委内瑞拉。

左图,与社会研究中心关联的X账户。注意透明度设置显示该账户通过俄罗斯联邦应用商店连接。右图,SRC Instagram账户:注意委内瑞拉位置。

运营人员报告了在LinkedIn上的特殊问题,他们表示在那里创建了一个明确虚假的账户来代表SRC,但随后难以为其建立网络。根据他们的报告,解决方案是创建更多虚假账户来关注第一个账户,使其看起来更可信。截至8月17日,一个具有相同社会研究中心品牌的LinkedIn账户拥有961名关注者,并声称有200-500名员工,但只列出了两名员工。

偶尔,除了使用AI更新报告外,运营人员确实要求我们的模型帮助设计和创建他们可以在行动中使用的文本:例如,请求帮助确保他们的虚假账户使用正确的口音、词汇和不同国家的机构风格。这在整体工作量中所占比例相对较小,也许是因为该行动似乎至少包括一名来自拉丁美洲的西班牙语母语者,因此对AI语言支持的需求较少。

例如,有一次,一名讲俄语的操作员要求模型用俄语帮助起草一封信,该信将把乌克兰驻巴拿马名誉领事牵连进腐败案。随后,讲西班牙语的操作员要求模型将这封信翻译成西班牙语,并生成配套的音频脚本。一张与信件文字相符的照片,配上与操作员脚本相符的配音,被一个自称是新闻媒体的账号发布在TikTok上,但使用了巴拿马TVN Noticias(在新窗口打开)的标志。该TikTok频道只有一个关注者,并在发布这条假消息后停止更新。

经过编辑的TikTok截图,显示一封关于乌克兰与巴拿马金融部门联系的伪造信件,配有行动生成的配音。

TikTok帖子展示了这封信,其文本由该行动生成,配音脚本同样由该行动生成。

另一次,在俄罗斯的讲西班牙语操作员给模型一份俄语脚本,声称诺博亚侮辱了厄瓜多尔的穷人,并要求模型将其翻译成厄瓜多尔西班牙语。第三次是在三月份,同一用户要求模型校对一份西班牙语合同草案,该合同是名为“International Security Solutions FZE”的公司与厄瓜多尔一名个人之间签订的,声称在乌克兰提供基础设施服务。用户的问题集中在如何改进语言和排版,包括询问哪些词应该加粗。

用户关于合同的提示在措辞最终确定后便结束了。然而,开源研究显示,这份“合同”的照片随后在社交媒体上流传(在新窗口打开)。它被用来支持诺博亚政府与一家幌子公司合作,诱骗厄瓜多尔人被招募进乌克兰军队的说法。这一假消息传播得足够广泛,以至于在四月初触发了

事实核查:核查人员得出结论,该公司“未出现在厄瓜多尔公司、证券和保险监管局的登记册中”。

事实核查(在新窗口打开)这一行动的影响需要特别仔细的评估。如上所述,操作员的主要方法之一是将与他们行动无关的活动归功于自己。因此,他们在内部报告中关于影响力的说法不能按表面价值采信。同样,他们声称已散布的一些假新闻在开源研究中并未出现,可能是因为它们是在非公开渠道传播的,已经被删除,或者实际上并未发布。

然而,开源证据使我们能够证实他们提出的一些说法。该行动声称传播的一些虚假信息随后被事实核查机构报道,并被政府揭穿,这表明它们传播得足够广泛,值得回应。在其他情况下,我们能够在网上找到与该行动生成的内容高度匹配的内容。最值得注意的是,该行动声称欺骗了一所秘鲁学校举办了一场描绘班德拉的活动,此事随后在拉丁美洲和欧洲都被报道,并且似乎至少引起了一位波兰欧洲议会议员的评论。

使用 IO Breakout Scale(在新窗口中打开),该量表将 IO 从 1(最低)到 6(最高)进行评级,我们评估该行动属于

第 5 类,有证据表明它导致了多个国家政客的公开评论。这是我们开始报告以来破坏的第一个第 5 类行动。

伊朗来源的行动,以欺骗性署名在在线新闻媒体上发布长篇文章。

我们封禁了一批源自伊朗的 ChatGPT 账户。他们用波斯语提示,并生成波斯语和英语内容。行为者使用 VPN 访问 ChatGPT 来隐藏其位置。

该行动使用我们的模型来完善长篇文章和编辑提案,生成社交媒体评论,并完善内部报告。操作者使用七个不同的署名来推销他们的文章,因此我们将他们的活动称为“虚假署名”。长篇文章聚焦于美伊冲突。大多数评论同样涉及冲突;少数涉及美国政治,通常是在冲突的更广泛背景下。

他们主要工作流的明显影响差异很大。我们发现了近 100 篇文章,以该行动的署名在全球大约十几家在线媒体上发布或联合发布。这些是中小型媒体,通常关注国际事务、地缘政治和中东事件。相比之下,社交媒体评论似乎没有产生实质性的参与,如点赞、分享或进一步回复。事实上,操作者的内部报告使用了一种欺骗性计算来衡量其社交媒体影响,可能是为了夸大操作者的表面效力。

整体活动似乎与一个商业行为者运行有偿影响活动一致,但我们无法识别具体涉及的行为者。我们已与相关当局分享了此案的信息。

该行动最深远的活动包括要求 ChatGPT 审查和完善关于美伊冲突地缘政治的长篇英语文章。典型的提示要求模型根据特定在线媒体的提交标准评估英语草稿,并建议编辑以确保其符合要求。一旦操作者批准编辑,他们要求模型生成一封电子邮件,他们可以用它来向相关在线媒体的编辑推销文章。

这些推介信息使用了七个不同的虚假署名起草:Ervin B. Hoskins、Noah Lamington、Sophia Gonzalez、Michael Harrison、Ericka Feusier、Jenny Williams 和 Alice Johnson。根据其中一些文章在网上同时发布的个人简介,每个人设都自称是西方记者(通常是美国人,尽管 Noah Lamington 人设的简介声称其在新西兰),往往专注于国际政治、中东、人权或冲突。对于其中一个人设“Michael Harrison”,操作者要求模型自行撰写简介。(值得注意的是,Meta 在 3 月 扰乱了(在新窗口打开)一个同样设有“Michael Harrison”记者人设的伊朗影响力行动。)

其中一些人设得到了多个社交媒体平台上账号的支撑。例如,Michael Harrison 人设在 Medium、X 和 Facebook 上都有账号支撑。Ervin B. Hoskins 人设在 X、Facebook、Instagram 和 Threads 上设有账号。该人设的简介自称是“一名美国自由撰稿人”,但社交媒体透明度设置将这些账号定位在伊朗。

Ervin Hoskins 人设的 Instagram 简介和账号透明度面板。X 列出西亚 Android 应用,而 Instagram 将伊朗列为账号位置。

上:Ervin Hoskins 人设的 Instagram 简介。左下:X 账号透明度信息,显示使用了西亚 Android 应用。右下:Instagram 账号透明度信息,显示位置在伊朗。Meta 于 8 月封禁了该 Instagram 账号。

利用开源调查技术,我们识别出近 100 篇以操作者某一署名发表的文章,分布在十多家不同的出版物上。这些出版物通常关注国际事务、地缘政治和中东事件,有时从反战或进步主义视角出发。我们识别出的最早文章发表于 2025 年 7 月,最晚的发表于 2026 年 10 月。在美国-伊朗冲突爆发后,文章发布频率大幅增加。

七个 Bogus Bylines 人设下发表文章的时间线,按主题和作者分组。美伊报道是最大类别,并从 2026 年 3 月起变得集中。

2025 年 7 月—2026 年 9 月文章时间线,按作者和主题。注意 2026 年 3 月起关于美伊关系的文章密度。

五篇以与该行动相关人设发表的文章标题:Alice Johnson、Noah Lamington、Michael Harrison、Sophia Gonzalez 和 Ervin Hoskins。

2026 年 2 月至 7 月期间,在一系列网络媒体上以与该行动相关的署名发表的文章标题样本。

至少其中一些文章随后被相关媒体的社交媒体账号推广,使伊朗操作者有可能接触到他们原本无法触及的受众。

除了文章之外,威胁行为者还要求 ChatGPT 生成一批关于地缘政治或政治主题的评论,语言为英语或波斯语。行为者的典型做法是输入社交媒体帖子的文本或截图,并要求模型生成一组与其总体关注点一致的回复。随后这些回复被发布到网上,通常彼此间隔仅几分钟。操作者的内部报告同时提到了人工和自动发帖;我们没有证据表明这种自动化是在我们的模型帮助下进行的。

操作生成的英语和波斯语回复的并排截图,发布于7月,账户身份已被遮挡。

左图为英语推文,右图为波斯语推文,均由该操作生成并于7月发布。英语评论回复了一条警告美国正准备对伊朗发动“大规模袭击”的英语推文。此图中的所有评论均在10分钟内发布。波斯语评论回复了一条关于美国打击伊朗的波斯语推文,并在13分钟内发布。

部分批量评论活动包括针对该操作自身新闻文章的社交媒体帖子生成回复。在此,操作者输入宣传其文章的帖子截图,然后生成赞扬或支持这些文章的评论,很可能是为了让文章看起来更受欢迎。

被涂黑的Facebook截图,显示一个本地新闻页面分享了由Sophia Gonzalez署名、操作生成的文章,随后是四条操作生成的评论。

美国本地新闻页面发布的Facebook帖子,分享了该操作生成的一篇文章,以及该操作在该帖子上生成的评论。

大多数批量评论更广泛地聚焦于伊朗、美国和以色列之间的冲突。用户要求就导弹袭击、停火和外交博弈等主题发表评论,并指定输出内容将美国描绘为侵略者、以色列描绘为美国不可靠的盟友、伊朗描绘为不屈但坚韧的受害者。操作者针对总部位于英国的卫星网络伊朗国际(伊朗政权的批评者)的帖子生成了特别大量的回复,产生了超过两打的敌对波斯语回复批次。少数批次针对有关美国政治问题的社交媒体帖子生成回复,通常也处于更广泛的冲突背景下。

该操作针对美国政治相关帖子生成的两条被涂黑的Instagram评论。

该操作针对美国政治相关帖子生成的Instagram评论。

我们确认其中少量回复被发布到网上;更多回复未出现在我们的开源搜索中,可能是因为它们要么未被发布,要么由已被封禁的账户发布。(例如,三位记者人设——Ericka Feusier、Alice Johnson和Jenny Williams——在其公开简介中列出了X账户句柄:截至2026年8月,所有这些账户均已被暂停。)一些确实在网上发布评论的账户拥有看似西方的名字,但显示的账户位置在伊朗。

已打码的 Instagram 账户透明度面板,显示发布前述评论的两个账户所在地均为伊朗。

上述评论所涉 Instagram 账户的透明度设置,显示其位于伊朗。

在我们确实发现这些回复被发布的地方,它们通常只占相关帖子总评论的一小部分,这表明操作者并非真实回复中的主导声音。它们似乎也没有吸引到大量互动:事实上,该行动回复上的许多点赞来自本身与该行动有关联的账户。我们已与行业合作伙伴分享了此案的信息,他们最有能力对互动情况提供全面评估。

让他们的活动看起来更受欢迎的努力并不限于面向公众的帖子。除了生成内容外,操作者偶尔还会要求 ChatGPT 润色似乎是关于其社交媒体活动的内部报告。这通常包括向模型提供一系列统计数据,并要求其将其转化为精美的演示文稿。

这并非我们首次 disruption 使用 AI 撰写其 自身(在新窗口中打开)自我评估(在新窗口中打开)的行动。伊朗操作者给自己批改作业的做法最引人注目之处在于他们所用的方法。他们使用的主要“影响力”指标是他们所回复帖子的浏览量(

而非实际回复的浏览量),统计时间点为回复发布前以及发布后一段未指明的时间。这一计算没有考虑任何可能由其他因素导致的浏览量,例如原帖的受欢迎程度或其他评论。因此,它极大地夸大了该行动的影响力数据,表明操作者要么不知道更有效的计算方法,要么选择不使用它。

事实上,根据可从开源观察中收集到的证据,该行动的两个主要工作流似乎可能产生了截然不同的影响程度。

我们能够识别出的社交媒体回复通常获得的点赞、浏览量和评论数都很低(个位数或两位数)。如上所述,这些回复通常只占相关帖子总评论的一小部分。使用 IO Breakout Scale(在新窗口中打开),该量表将 IO 从 1(最低)到 6(最高)进行评级,我们会将这部分行动评估为

第 2 类,在多个平台上有评论,但几乎没有突破迹象或主导回复的能力。

相比之下,记者人设成功让他们的文章被一系列媒体发表,其中一些拥有大量粉丝:例如,截至 2026 年 8 月,发表该行动文章的一家在线媒体在 Facebook 上拥有近 200 万粉丝,在 X 上拥有近 35.5 万粉丝,在 Instagram 上拥有超过 54.4 万粉丝。我们会将这部分行动评估为第 4 类,因为它持续突破到多家媒体。

作者

继续阅读

查看全部