一份最新的智库研究报告中提到,中共在网络上散播用人工智能(AI)技术制作的唱衰美国的图像和视频,「其大部分内容似乎旨在营造一种对美国现状的沮丧感」,并将美国大选「描述为分裂和冲突的根源」,放大和加剧美国的分裂
这份报告来自于「战略对话研究所」(Institute of Strategic Dialogue,ISD),这是总部位于英国伦敦的一个政治倡导组织。ISD的战略分析师埃莉斯‧托马斯(Elise Thomas)在2月15日发布了一份题目是「亲中共的『垃圾信息伪装』网络转向关注美国总统大选」(Pro-CCP ‘Spamouflage’ network pivoting to focus on US Presidential Election)的报告。
该报告列举了一系列实例,显示被西方称为「Spamouflage」(垃圾信息伪装)的中共影响力运动(也被称为「大外宣」)目前正在将其重点转向2024美国大选,并利用AI技术制作生成的图像和视频把美国选举政治中两党候选人之间的竞争描述成「内斗」、「内战」、「分裂」,甚至是「美国民主的坍塌」,以试图在美国选民中「制造对美国状况的不满」,和在国际观众中引发「美国一片混乱的感觉」。
宣传网络「Spamouflage」旨在唱衰美国
ISD报告提到,宣传网络「Spamouflage」至少从2017年以来就一直很活跃,「其大部分内容似乎旨在营造一种对美国现状的沮丧感,没有任何明显的党派倾向。它关注(美国的)城市衰败、芬太尼危机、肮脏的饮用水、警察暴行、枪枝暴力和脆弱的基础设施等问题。」
报告说,这些内容不是特别针对美国大选的,但却是多年来Spamouflage内容的一个「显著特征」,这显然也是试图在美国选民中「制造对美国状况的不满,并可能在国际观众中引发『美国一片混乱的感觉』」。
2023年4月,美国司法部指控中国公安部「912特别项目工作组」的40名成员。根据起诉书的细节,他们似乎极其可能参与了Spamouflage影响力活动,该活动是由北京协调并在中国各地的办事处实施的。
ISD报告提到,Spamouflage影响力活动在中国的研究人员中「臭名昭著」,因为其规模庞大,但是却不能「引起真正的社交媒体用户的任何值得注意的参与」。
内容在转向干扰美国2024总统大选
尽管2024年在全球有近70个国家举行选举,但是没有任何一场选举可以比11月份的美国总统大选对全球影响更大。ISD也注意到,中共大外宣的Spamouflage内容在转向美国2024总统大选。
这些Spamouflage内容包括使用社交媒体帐户分享所谓的「原始图像」——但实际上通常是由AI技术生成的图像,并在某些情况下也使用了Photoshop等传统图片编辑工具的加工处理——来传播中共对美国大选的叙事。
这些图像看起来制作粗糙,配以夸张的人物形象和耸人听闻的文字批注,以犯罪片或黑社会题材片的电影海报的风格展现,试图让人对美国大选产生极为负面的认识和印象。
例如,一个X平台用户发帖说「美国党派分歧」,并分享了一幅有美国现任总统拜登和前总统川普在火焰背景下拔剑对决的海报,海报上配的文字是「美国内斗加剧——美国倒退150年」。
其它海报上的文字还有「激烈斗争」,「美国民主的坍塌」,「美国裂变:内讧」,「内战」,等等,让人感觉美国大选「将对美国造成分裂和破坏」,是「美国社会分裂和冲突的根源」。ISD报告认为,这似乎是Spamouflage大外宣针对西方民主选举最常见的叙事之一。
Spamouflage在油管(YouTube)、脸书(Facebook)、(抖音)TikTok、Medium和数十个其它论坛、网站和社交媒体平台上都很活跃,然而,其最活跃的平台可能是X(前身为推特),这或许是因为X平台比其它平台更关注政治话题。
ISD报告发现,截至2024年1月,Spamouflage关于美国大选的相关内容似乎只关注拜登和川普两人,这两人是美国两党预期的总统候选人。
Spamouflage对拜登和川普都有不同程度的攻击。一些海报内容暗示拜登是腐败分子、吸毒者和骗子,以及拜登的儿子亨特在他的保护伞下大捞好处的有关丑闻。
ISD报告认为,Spamouflage对川普的叙事有些「模棱两可」,也就是说,不同的人——川普支持者或反对者——可能会有不同的解读。
例如涉及川普的一些海报内容有「推特战士」,「川普作为反英雄的地位使他势不可挡」,「川普再次被起诉:美国的『黑暗日』」,「进监狱就像玩儿一样——主演:川普」,等等。
ISD报告表示,这些Spamouflage的社媒帖子的浏览量非常低,多数浏览者可能只是属于Spamouflage的其它账户参与者。
尽管如此,ISD报告认为,Spamouflage的这些叙事为西方读者提供了一个有用的「窗口」——让我们了解中共对美国大选的大外宣做法是:放大对美国的沮丧和加剧分裂。
微软报告:中共享AI假冒美国选民
ISD报告并不是首家指出中共利用AI技术干涉美国2024选举的智库报告。
去年11月,微软发布的一份类似的研究报告也指出,他们发现了一个似乎是由中国人(中共)经营的假冒美国人的虚假社交媒体帐户组成的网络,该网络通过散布AI生成的图像和其它大外宣内容来影响美国选民。
微软研究人员发现,与中共相关的「影响者」(influencer)社群媒体账号,其中许多是在脸书和X平台上发现的,正在以前所未有的复杂程度冒充美国选民。
微软报告将该虚假网络活动称为「附属于中国共产党的秘密影响力行动」(Chinese Communist Party (CCP) affiliated covert influence operations)。报告指出,与过去的中共影响力活动相比,现在有更多的美国用户成为目标,也被「更直接地参与进来」。
具体来说,自2022年以来,有中共背景的这些虚假账户一直在追踪特定的美国候选人,并冒充美国选民,以配合2023年11月的中期选举以及2024年的美国总统大选。
该研究报告中说:「这些活动在数十个网站上部署了数千个虚假帐户,以多种语言传播表情包、视频和讯息。」
2023年3月,中共控制的账号开始将AI生成的图像与带有政治色彩的社媒帖文结合在一起。
微软的报告提供了脸书和X平台上虚假社媒账户的几张截屏图,其中包括一张由AI生成的带有七个手指的自由女神像的图像,该AI图像还把自由女神改名为「暴力女神」。
微软研究人员表示,他们之所以能够识别出这些是中共账户,是因为中国社群媒体有些众所周知的特征,例如,总是先会用中文发布,再切换到另一种语言。
微软表示,此类账户通常「由真人操作,他们使用虚构或盗用的身分来隐藏该账户与中共的关系」。
这些「真正的」影响者也被发现通过就业、接受旅行邀请或其它金钱往来等因素与中共官方媒体发生直接联系。
报告表示,这些虚假账号会列出美国境内的公共地点,张贴美国的政治口号,并分享与美国国内政治议题相关的标签。
例如,一个AI生成的「黑命贵」(BLM)图片,首先由一个有中共背景的X平台账户上传,七小时后又由一个冒充美国保守派选民的账户上传。
该报告说,新的有AI图像的社媒帖子内容「比中共的国家行为者之前的影响力活动中使用的尴尬视觉效果更抓人眼球」。
微软表示,中共的政治影响力运动表现出与中国公安部(MPS)内部「精英小组」——「912特别项目工作组」类似的特征。
中共公安部因在美国各地城市(包括纽约市)运营了至少六个秘密警察站以传播中共大外宣和恐吓中国出生的美国公民,而被美国联邦调查局(FBI)查获,这在2023年4月曾经成为媒体头条新闻。
微软研究表示,美国司法部知道「912小组」在网络上创建了成千上万个虚假账户,该小组还针对亲民主活动人士推行中共大外宣活动。
另外,微软报告也指出,中共政府下属的多语言社群媒体「影响者」计划已成功吸引了至少40种语言的目标受众,并将受众数量增加到超过1.03亿。
美参议员:警惕AI深度造假
美国国会实际上在更早以前也已注意到,中共可能会利用AI技术进行深度造假来干扰美国2024大选,一位国会参议员就在2023年5月就发出了这样的警告。
美国参议院外交关系委员会成员、来自内布拉斯加州的共和党参议员皮特‧里基茨(Pete Ricketts)在2023年5月接受福克斯新闻数字频道采访时表示,他对中共可能使用AI技术干扰美国2024大选感到担忧。此前有一个报导说,有亲共媒体利用AI生成的新闻主播传播中共大外宣内容。
里基茨参议员对此说:「他们(中共)绝对有可能在(美国)2024年选举中这样做,这就是我们必须要警惕的。」
在当月早些时候的参议院外交关系小组委员会听证会上,里基茨提到了中共及其利用AI技术制造「深度伪造」(deepfake),这些伪造的视频和图像看起来和听起来都像真实的人和事件。
一家美国研究公司2023年早些时候发布的一份报告表示,「亲中国(中共)垃圾信息行动」正在利用AI深度伪造技术来制作假新闻主播,播报北京的大外宣内容,这些所谓的新闻播报视频在脸书、推特(后来的X平台)和YouTube等社群媒体平台上传播。
里基茨将中共的这种做法与20世纪下半叶时苏联的庞大宣传活动进行了比较。
他说:「我认为,这里与苏联在冷战期间的做法有很大相似之处,他们(苏联)在此类宣传上的支出以十比一的比例高出我们,而中共现在的做法,他们(中共)的支出也以十比一高出我们。现在他们(中共)正试图利用AI的技术优势来撬动美元优势(指美国经济优势)。」
里基茨当时透露,他本人一直在与内布拉斯加大学奥马哈分校(University of Nebraska at Omaha)和其它地方的AI专家进行联系,「就我们能做的事情提出一些策略」。
他还说:「实际上,我们必须做的关键事情之一是教育我们自己的人民现在必须如何看待媒体并进行批判性思考,因为很可能那完全是编造的,所以那是完全错误的。即使你(在媒体上)看到某人,你认为你认识的人的图像,它也可能是通过计算器程序创建的。」
里基茨建议美国政府可以与研究AI技术的学院和大学合作,制定一个「模板」来教导人们要对AI的深度造假有认识。
他说:「作为联邦政府,我们可以做的一件事就是设想一下,当我们说『好吧,我们需要教导人们——批判性地思考』时,我们想做哪些事情?想出一些关于这意味着什么的想法吗?也许创建一个模板或一些我们可以与大学分享的东西,让他们可以采用。」
不过,里基茨参议员对于联邦政府建立自己的AI办公室来教育人们的做法持谨慎态度,理由是官僚机构太臃肿。他只是想呼吁他的同事们「关注这个主题」,并尽可能多地了解快速发展的AI技术。
他说:「我在创建更多的政府官僚机构方面总是非常小心的,我不确定我们是否想要这么运作。也许我们已经可以在某些地方解决这个问题,但我认为部分原因只是为了让我的同事们和我自己接受有关这方面的教育以及知道这些能力是什么。就像我说的,这个事(AI)进展得很快,我们必须关注这个主题。」