AI 图像生成器:新兴的网络安全威胁

译文 精选
人工智能 深度学习
人工智能(AI)有可能改变社会的本质。虽然人工智能工具给我们带来了很多的期待,但同时也需要在很多方面提高警惕。例如,网络犯罪分子和其他威胁行为者将人工智能武器化,即使是AI图像生成器也不能幸免于滥用。

人工智能(AI)有可能改变社会的本质。虽然人工智能工具给我们带来了很多的期待,但同时也需要在很多方面提高警惕。例如,网络犯罪分子和其他威胁行为者将人工智能武器化,即使是AI图像生成器也不能幸免于滥用。

什么是 AI 图像生成器?它们是如何工作的? 如果您曾经使用过AI图像生成器,那么非常清楚它们的全部内容。即使从未使用过,也很可能在社交媒体和其他地方遇到过人工智能生成的图像。今天流行的软件工作原理非常简单:用户输入文本,人工智能根据该文本生成图像。

近年来,随着人工智能技术的发展,大多数文本到图像生成器采用扩散模型,这意味着他们在大量的文本和图像上接受了长时间的“训练”,这是他们作品如此令人印象深刻和令人惊叹的逼真的主要原因。

让这些人工智能工具更令人印象深刻的是,它们不仅修改现有图像或将数千张图像合并为一个,而且还从头开始创建新的原始图像。使用这些文本到图像生成器的人越多,他们获得的信息就越多,他们的创作就越好。

目前已经有很多著名的AI图像生成器:WOMBO、DALL-E、Stable Diffusion、Midjourney、DeepAI、Fotor和Craiyon。科技巨头——包括谷歌正在发布自己的,所以我们只能推测未来会带来更多的价值。

威胁行为者将 AI 图像生成器武器化的 4 种方式

像几乎所有技术一样,人工智能图像生成器也可能被恶意行为者滥用。实际上,它们已经被用于各种邪恶的目的。但是,犯罪分子究竟可以在AI图像生成器的帮助下进行哪种类型的诈骗?

1、社会工程

威胁者能够使用AI图像生成器做的一件明显的事情是参与社会工程;例如,创建虚假的社交媒体资料。其中一些程序可以创建令人难以置信的逼真图像,看起来就像真人的真实照片,诈骗者可以使用这些虚假的社交媒体资料进行网络钓鱼。

与真人的照片不同,人工智能生成的照片无法通过反向图像搜索发现,网络犯罪分子不必使用有限数量的照片来欺骗目标——使用 AI,他们可以生成任意数量的照片,从头开始构建令人信服的在线身份。

但是,在现实生活中,威胁者可以使用AI图像生成器来欺骗人们。2022年4月, 技术讲座博主本·迪金森(Ben Dickinson)收到了一封来自律师事务所的电子邮件,声称他在未经许可的情况下使用了图像。律师们通过电子邮件发送了一份DMCA版权侵权通知,告诉迪金森他需要链接回他们的客户,或者删除图像。

迪金森在谷歌上搜索了这家律师事务所,找到了官方网站。这一切似乎都是完全合法的;该网站甚至有18名律师的照片,包括他们的传记和证书。但这一切都不是真实的。这些照片都是由人工智能生成的,所谓的版权侵权通知是由一个希望从毫无戒心的博主那里勒索反向链接的人发出的。

2、慈善诈骗

2023 年 2 月土耳其和叙利亚发生毁灭性地震时,全世界数百万人通过捐赠衣服、食物和金钱来表达对受害者的声援。

根据一份英国广播公司的报告,诈骗者利用这一点,使用人工智能创建逼真的图像并募集捐款。一名骗子在 TikTok Live 上展示了人工智能生成的废墟图像,要求他们的观众捐款。另一个人发布了一张人工智能生成的图像,其中一名希腊消防员从废墟中救出一名受伤的孩子,并要求他的追随者进行捐款。

人们只能想象犯罪分子将来会在人工智能的帮助下运行哪种类型的慈善诈骗,但可以肯定的是,他们只会更好地滥用该软件。

3、深度伪造和虚假信息

政府、活动团体和智库长期以来一直警告深度伪造的危险AI 图像生成器,这是因为什么也不能阻止虚假信息代理人在机器人的帮助下创建虚假图像并在社交媒体上推广它。

根据美国国家公共广播电台的消息,2022 年 3 月,当时一段描绘乌克兰总统告诉乌克兰人投降的假视频在网上流传。虽然这只是一个例子,但可能性几乎是无穷无尽的,而且威胁者可以通过无数种方式损害某人的声誉,宣传虚假叙述或在人工智能的帮助下传播假新闻。

4、广告欺诈

趋势科技研究人员在 2022 年发现,诈骗者正在利用人工智能生成的内容制作误导性广告,并推广阴暗的产品。他们创建了建议流行名人使用某些产品的图片,并根据这些图片开展广告活动。

例如,一则“财务咨询机会”广告以特斯拉创始人兼首席执行官为主角。当然,马斯克从未认可过有问题的产品,但人工智能生成的镜头让它看起来像这样,大概是引诱毫无戒心的观众点击广告。

人工智能和网络安全:我们需要解决的复杂问题

展望未来,政府监管机构和网络安全专家可能必须共同努力,应对人工智能驱动的网络犯罪这一新出现的威胁。但是,我们如何才能在不扼杀创新和限制数字自由的情况下监管人工智能并保护普通人呢?这个问题将在未来几年内变得突出。

在得到答案之前,请尽你所能保护自己:仔细审查你在网上看到的任何信息,避免使用可疑的网站,使用安全软件,让你的设备保持最新,并学会使用人工智能来发挥你的优势。

原文标题:AI Image Generators: An Emerging Cybersecurity Threat

原文作者:DAMIR MUJEZINOVIC

责任编辑:张诚
相关推荐

2023-05-04 16:24:10

人工智能图像生成器

2023-04-17 07:10:44

AI语音生成器

2024-04-10 12:33:58

2023-12-11 22:21:12

2023-10-07 12:03:16

2024-03-07 20:35:20

微软人工智能

2013-04-15 10:44:24

2024-03-27 11:12:13

2015-08-25 11:07:58

2022-08-26 15:28:52

网络安全黑客IT

2023-12-07 10:22:26

人工图像生成器Meta图像生成模型

2020-03-26 10:24:10

网络安全技术数据

2020-06-23 10:06:49

无人机网络安全网络攻击

2022-05-09 08:54:54

EDoS网络攻击云安全

2023-12-28 13:42:36

2023-12-19 08:00:00

人工智能AI艺术生成器数据

2019-03-29 10:31:53

2020-03-02 15:46:28

威胁搜寻网络安全网络攻击

2023-01-03 13:56:43

2024-02-23 15:53:13

OpenAISora人工智能
点赞
收藏

51CTO技术栈公众号