欧盟网络安全威胁:虚假与错误信息

安全 应用安全
如今,数字平台已是新闻媒体的主战地。社交网站、新闻媒体、甚至搜索引擎都是现在大多数人的信息来源。由于这些网站的运作方式是通过吸引人们来产生网站流量,这些抓人眼球的信息通常是推广广告,有些甚至没有经过审查。

国际现状

恶意攻击者现在可以通过云计算、人工智能工具和人工智能算法来制造恶意信息。这些恶意攻击成功的结果既有技术基础,也有社会基础,为国家和非国家的攻击者提供了制造和传播虚假信息的强大渠道和工具。上述数字平台和网站服务还为恶意攻击者提供了实验、监控、迭代和优化虚假信息活动影响的能力。这些攻击通常是发起其他网络攻击(如网络钓鱼、社会工程或恶意软件感染)之前的预热行动。

例如,全球数据公司(GlobalData) 2022年的一项研究估计,推特上10%的活跃账户都在发布垃圾内容。推特称这一数字远低于5%。

表:虚假信息和虚假信息威胁的目标、手段和后果表:虚假信息和虚假信息威胁的目标、手段和后果

虚假信息或错误信息的流动以及国家和非国家人士的相关网络行动正在充斥网络空间,目的是造成不确定性的信息、引起人们对真相的冷漠、疲于寻找真相甚至畏惧寻找真相。更加严重的是,虚假信息和不实信息已变成对民主、公开辩论和自由的现代社会的主要威胁,政策制定者应该把虚假信息的解决方案放在议程的核心位置,同时也应考虑安全和隐私问题。随着俄罗斯和乌克兰战争的爆发,大量虚假信息的攻击浪潮进一步加剧了这一情况,并引起了研究界、政府和公众的注意。因此,欧洲议会于2022年3月9日发布了一项关于外国干涉欧盟所有民主进程的决议。

趋  势

与2021年类似,世界经济论坛2022年发布的《全球风险报告》指出,数字化和日益增长的网络威胁之间的相互作用也会产生潜在的后果。深度造假和“雇佣假信息”的业务数量增长可能会加深社会、企业和政府之间的信任割裂。例如,深度造假可能会影响选举或政治结果。除此之外,虚假信息还影响着国家之间的合作,因为网络安全已成为分歧而非合作的来源。根据全球风险认知调查(GRPS),跨境网络攻击和错误信息被认为是目前缓解风险的努力“尚未开始”或处于“早期发展”的领域。

根据欧盟CONCORDIA H2020项目平台,深度造假、宣传虚假信息和传谣运动无处不在,它们旨在引导用户认知出错,直接影响人们的日常生活和社会。

俄乌战争

虚假信息作为一种信息战方法可以追溯到冷战时期,并在2016年美国大选后在美国复苏,源于当时俄罗斯被指控干预了美国选举过程。在俄罗斯和乌克兰之间的战争中,虚假信息在网络战中的核心作用得到了证实,网络战从攻击骨干网演变为虚假信息舆论攻击。甚至在“物理”战争开始之前,虚假信息攻击就被用作俄罗斯入侵乌克兰的准备计划,并在入侵期间大规模地实施。

例如,欧洲新闻频道(Euronews)发布了欧洲专家协会(European Expert Association)的一份报告,该报告最近由全球虚假信息指数(Global Disinformation Index)独立评估,内容是俄罗斯用来为军事行动辩护的各种未经证实的说法,比如乌克兰正准备攻击顿巴斯的新闻。在此背景下,根据欧洲专家协会乌克兰创始人兼研究总监玛丽亚·阿夫迪娃的说法,虚假信息倾向于数量而非质量,试图耗尽人们辨别真实信息和事实的能力。这种方法类似于旨在耗尽物理机器资源的传统DDoS攻击。

战争中的所有参与者都使用了虚假信息。俄罗斯的虚假信息集中在入侵的动机(例如,去纳粹化,解放乌克兰),乌克兰和北约的侵略,或美国向乌克兰提供生物武器。乌克兰的虚假信息集中在激励军队和强调俄罗斯的军事损失上。其他国家也助长了虚假信息的传播,例如在乌克兰使用的化学武器据传由中国提供。

此外,基于深度伪造的人工智能虚假信息在战争中发挥了重要作用,并导致伪造了俄罗斯总统弗拉基米尔·普京和乌克兰总统弗拉基米尔·泽连斯基的视频,其中的视频信息出现了支持敌对方的观点。然而,这些视频是假的,并在网上大肆传播开来。

在这场由人工智能、深度造假和社交网络引发的虚假信息完美风暴中,包括Meta、YouTube和Twitter在内的互联网网站大公司宣布了一波又一波的新措施,以回应乌克兰政府、世界领导人和公众日益增长的要求。

人工智能技术支持下的虚假信息和深度造假

人工智能支持的虚假信息在制造和传播虚假信息方面的作用越来越重要,它可以使未来虚假信息的供应无限大。模拟真人的机器人激增很容易破坏“通知-评论”规则制定过程,以及社区互动,因为政府机构会充斥着虚假评论。

在2021年的ETL(欧盟网络安全威胁态势)中,我们已经观察到人工智能驱动的社交媒体是虚假信息传播的基础,导致社会混乱。在这种背景下,深度造假技术正在迅速发展。辅助技术使得深度造假的创作更加简单,而社交媒体则有助于深度造假的传播。此外,由于还无法完全消除深度造假,虚假信息和虚假信息运动正变得越来越可信。

特别是,政治领导人制作或传播的内容几十年来一直被操纵或断章取义,且这种趋势正在加剧。深度造假的出现将这种做法提升到了一个全新的水平,为恶意行为者提供了更智能和简单易用的工具,用于生成几乎不可能与真实内容区分开来的虚假内容(音频、视频、图像和文本)。人工智能的力量允许恶意行为者(包括国家和非国家行为者)进行有针对性的攻击,一方面针对个人和用户进行攻击,另一方面定制个性化的虚假信息。

深度造假和基于人工智能的虚假信息传播的结果是信息、媒体和新闻业可信度的丧失。这种情况可能会导致骗子红利,这是文献作者Chesney和Citron描述的主要风险,虚假信息攻击的目标不是创造假新闻,而是否认真相。

如果虚假信息被用来针对整个社区,制造意识形态冲突,扰乱选举,抵消限制大流行病传播的努力,那么它在很大程度上也被用来伤害个人。据微软称,超过96%的深度伪造视频与色情有关,而不同的攻击针对的是人的声誉。这些攻击造成的损害在虚假信息被正确揭穿后仍然存在。

定制化造假服务

ETL 2021观察到,专业的虚假信息是由主要政府、政党和公关公司大规模制造的。自2019年以来,越来越多的第三方一直在提供虚假信息服务,为客户提供有针对性的攻击方案。许多国家都提供服务,越来越多的非国家和私营商业组织正在使用这些服务。

这种雇佣虚假信息的趋势正在增加,使得虚假信息宣传活动易于实施和管理。这些服务加上深度造假很可能会增加整个社会的不信任。根据国际媒体评估中心(CIMA)的说法,雇佣虚假信息是一个蓬勃发展的行业,在这个行业中,私人营销、传播和公关公司通过在网上传播虚假信息和操纵内容来制造不和。CIMA称,自2009年以来,用于宣传服务的资金总额至少为6000万美元。

新冠肺炎与绿色转型

2019冠状病毒病(COVID-19)是2021年虚假信息攻击的首要话题,导致世界卫生组织(世卫组织)警告称,网上虚假信息和错误信息泛滥。这些虚假信息运动旨在传播人们对冠状病毒疫苗有效性的恐惧、不确定性和怀疑。企业和个人成为虚假信息运动的目标,其攻击重点是绿色通行证(根据COVID-19疫苗接种为边境过渡提供便利)、强制疫苗接种、卫生护照、大规模免疫检测和封锁。2022年,围绕COVID-19以及虚假信息和不实信息的辩论仍在继续,努力寻找抵消或至少容忍虚假信息和不实信息的方法。

路透社研究所《2021数字新闻报道》(The Reuters Institute Digital News Report 2021)报告称,对于新冠肺炎的虚假和误导性信息位居调查榜首,54%的受访者声称看到了有关新冠肺炎的虚假和误导性信息,其中虚假信息和不实信息来自政客(29%)、普通人(16%)、活动家(15%)、记者(11%)和外国政府(9%)通过社交网络、搜索引擎和其他信件程序传播的。

新型冠状病毒对能源部门和绿色转型产生了强烈影响。在疫情期间,我们的能源消耗有所减少,但碳密集型技术和化石燃料的消耗仍大得令人印象深刻。后新冠时期的恢复能源措施大多忽视了绿色转型,而倾向于短期稳定的能源政策,而宽松的货币政策进一步扭曲了绿色、基于市场的解决方案或投资。与此同时,不同的行为群体投入了大量精力来减缓绿色转型,比如分享虚假信息和错误信息,以及表达对气象科学领域的不信任。

相关虚假信息攻击事件

1.选举仍然是虚假信息攻击的主要目标和关注重点。微软声称已经关闭了许多针对民选官员和候选人、促进民主的组织、活动人士和媒体的网站。在这种情况下,社交媒体平台的操纵者试图传播虚假信息和错误信息。

2.根据PwC的数据显示,在3602名受访者中,分别有19%和33%的人对以下问题回答“显著增加”和“增加”:“您预计组织中这些事件的可报告事件将如何变化?与2021年相比,您预计2022年来自这些信息载体/行为群体的威胁会发生什么变化?”

3.虚假信息运动越来越复杂,虚假信息的范围越来越大。现代的计算基础设施、社交媒体、数据生成工具和人工智能方法的技术结合,正在瞄准攻击民主的基础。

4.根据微软的说法,越来越多的恶意攻击者同时使用网络安全和虚假信息进行攻击以实现他们的目标。

5.在对未经审查的平台进行的一项分析中发现,在20万篇Telegram帖子中,那些链接到误导性信息来源的帖子比那些链接到专业新闻内容的帖子被分享得更多,但只有少数几个频道成为了目标。

6.澳大利亚制定了《关于虚假信息和错误信息的澳大利亚行为准则》,该准则已被澳大利亚的Twitter、谷歌、Facebook、微软、Redbubble、TikTok、Adobe和苹果公司采用。

7.TikTok一直被用于传播虚假信息,得益于其对视频的不审核和快速投放的软件设计。

8.  生成对抗网络(GANs)越来越多地被用于传播虚假信息。2021年,业余的攻击者利用GAN传播了虚假信息活动,并伪造了社交媒体档案。

参考文献

1.Caroline Jack, 'Lexicon of Lies: Terms for Problematic Information' (New York: Data & Society, 2017),

2.Europol, EU SERIOUS AND ORGANISED CRIME THREAT ASSESSMENT (SOCTA 2021), 2021

3.Microsoft FY21 Digital Defense Report

4.ENISA Threat Landscape 2021.

5.The Global Economic Forum, The Global Risks Report 2021 16th Edition, 2021

6.Chesney, Robert and Citron, Danielle Keats, Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security (July 14, 2018). 107 California Law Review 1753 (2019), U of Texas Law, Public Law Research Paper No. 692, U of Maryland Legal Studies Research Paper No. 2018-21, Available at SSRN: https://ssrn.com/abstract=3213954 or http://dx.doi.org/10.2139/ssrn.3213954

7.Chuck Brooks, Alarming Cybersecurity Stats: What You Need To Know For 2021, March 2021,

8.Samantha Bradshaw, Hannah Bailey, Philip N. Howard, Industrialised Disinformation 2020 Global Inventory of Organised Social Media Manipulation, 2020,

9.PwC, 2022 Global Digital Trust Insights, October 2021

责任编辑:武晓燕 来源: 中国保密协会科学技术分会
相关推荐

2023-11-27 00:39:46

2017-11-24 14:22:07

2011-02-21 13:41:20

Postfix问题错误

2023-09-28 12:05:43

2023-10-05 13:08:20

2023-11-02 12:13:08

2010-03-10 14:34:52

Python异常处理

2021-09-17 09:46:44

信息安全网络安全安全评估

2019-03-29 10:31:53

2010-08-16 17:44:07

DB2数据库错误信息

2009-04-20 09:09:46

PHP错误信息错误代码

2012-12-27 15:36:19

Android开发错误处理

2023-08-27 08:57:31

2018-10-18 10:50:20

网络安全数据技术

2021-02-04 08:00:00

僵尸网络网络安全信息安全

2018-06-04 21:47:01

2021-03-14 10:43:25

僵尸网络虚假信息错误信息

2021-10-25 09:33:52

Facebook 开发技术

2022-06-19 14:09:04

开源AdobeCAI

2014-05-28 09:19:44

点赞
收藏

51CTO技术栈公众号