今年AI可能在三个重要方面影响网络安全

人工智能 安全
今年,我们预计AI及其影响将在网络安全领域变得普遍,提升钓鱼诱饵,识别防御中的薄弱环节,并缩短开发和应对攻击的时间。今年,网络安全团队还将把AI放在首位——为应对新一波AI驱动的威胁做准备,并利用这项技术为自己的优势做好准备。

从超强的社交攻击到AI驱动的个人电脑,本文探讨了AI今年将如何重塑网络安全。

最近的AI进步为网络安全捍卫者和恶意行为者提供了新的工具和能力,网络犯罪分子已经开始探索AI如何加强攻击,并以新一代快速射击威胁的企业为目标,但AI也可以被永远利用——安全团队使用AI来加强威胁检测,并提高补救效率,这来得正是时候,据报道,全球需要400万名网络安全专业人员。

今年,我们预计AI及其影响将在网络安全领域变得普遍,提升钓鱼诱饵,识别防御中的薄弱环节,并缩短开发和应对攻击的时间。网络安全团队还将把AI放在首位——为应对新一波AI驱动的威胁做准备,并利用这项技术为自己的优势做好准备。

AI将在三个方面影响网络安全格局:

1.AI将为社交攻击增压

网络犯罪分子将利用AI以前所未有的规模加强社交攻击,在几秒钟内产生令人信服且难以发现的钓鱼诱饵,这很可能是非常可信的,因为网络犯罪分子使用从社交媒体或受攻击邮箱收集的数据自动进行个性化引诱,因此,即使在网络钓鱼培训之后,员工也很难发现诱饵,攻击者还将使用AI来生成更多少数民族语言的诱饵,这将给人以更合法的印象。

我们可能也会看到大规模的AI生成的活动在关键日期周围激增,例如,2024年将看到历史上最多的人在选举中投票,使用AI,网络犯罪分子将能够轻松地针对特定地区制作本地化诱饵,同样,年终纳税申报等重大年度活动,巴黎奥运会和2024年欧洲杯等体育活动,以及黑色星期五和光棍节等零售活动,也将给网络犯罪分子提供诱骗用户的钩子。

随着伪造电子邮件与合法电子邮件变得难以区分,企业不能仅依靠员工教育,为了防范AI支持的社交攻击,企业必须为其用户创建一个虚拟安全网。微虚拟化创建了与PC操作系统隔离的一次性虚拟机,因此即使用户无意中点击了不应该点击的东西,它们也会受到保护。

2.低成本管理既带来机遇,也带来挑战

本地大型语言模型(LLM)将于今年内置于个人电脑中,“AIPC”将彻底改变人们与终端设备的交互方式,这些LLM将通过利用独立于互联网的AI来提高用户的效率和生产力,并带来一些安全和隐私方面的好处,这些个性化的助手和聊天机器人将降低个人数据在云中发送和保存的安全风险,然而,随着这些本地模型收集的数据越来越多,终端将成为威胁参与者的首要目标。

随着企业希望使用LLM聊天机器人来提高便利性,安全团队将有另一个系统需要防御,这些聊天机器人可以充当以前无法获得的数据的入口。通过使用有针对性的提示来欺骗企业聊天机器人并超越控制,威胁参与者可以在社交方面设计企业LLM,以获取机密数据。

3.AI降低了对有害固件和硬件攻击的障碍

网络安全技术的进步将使攻击者更难进入系统并逃避检测,但随着AI将强大的技术交到许多人手中,复杂的能力将变得更容易获得,这一可用性将使攻击者能够创新并继续增加针对固件和硬件层的攻击,而安全团队在这些层的日常可见性较低。从历史上看,访问操作系统(OS)需要丰富的技术知识,但AI将使针对较低级别技术堆栈的攻击更容易获得。

我们预计,更难发现、更具破坏性的高级网络攻击的数量将会增加。随着攻击者使用AI来发现和利用漏洞并在操作系统下方站稳脚跟,网络事件将变得更加频繁。为了防御这种情况,组织现在必须在硬件和固件安全方面投入更多资金。

网络安全的新时代

AI将对威胁格局产生巨大影响,尽管如此,安全团队仍然有平等的机会利用AI来增强威胁检测和响应,并缓解安全团队的压力。AI助手还将通过自动扫描来帮助保护用户,以识别试图诱骗员工进行银行转账或共享敏感数据的目标钓鱼诱饵。

2024年AI PC的到来将带来巨大的安全优势,使用户能够在设备上更安全地利用AI,而不会有数据发送和保存在云中的安全风险,它们还将带来新的数据保密层,例如自动锁定无人操作的设备或在设备被监视时启动隐私屏幕。

为了安全地使用AI使其发挥优势,企业迫切需要一种集成的安全方法,采用零信任原则,与值得信赖的AI安全供应商合作将确保客户最大限度地发挥AI的优势,同时免受新的安全和隐私威胁。

责任编辑:姜华 来源: 企业网D1Net
相关推荐

2022-01-23 16:29:52

比特币加密货币货币

2020-09-22 07:00:00

AI机器学习网络安全

2013-01-23 09:28:39

无线网桥网络维护无线网络

2020-10-13 10:16:09

网络技术数据

2024-02-23 15:13:59

2022-06-15 15:14:02

网络安全网络攻击

2013-05-03 10:11:26

信息安全BYOT

2023-12-21 15:58:38

2022-11-30 13:54:29

2019-09-16 09:21:42

2023-06-25 14:35:27

网络安全安全漏洞

2022-03-22 14:06:19

云安全漏洞云计算

2023-05-28 23:29:20

2022-03-31 14:55:31

网络安全漏洞

2022-01-05 22:35:52

网络安全移动平台开源软件

2022-04-28 16:54:13

事件响应网络安全安全工具

2020-06-09 21:07:56

OT安全网络安全攻击

2010-09-10 11:41:16

2018-03-01 07:26:22

2023-12-25 13:59:14

点赞
收藏

51CTO技术栈公众号