Gartner揭示2024年GenAI网络安全主要趋势

安全 应用安全 人工智能
组织、政府、学者和无数其他人都在寻找利用GenAI技术的变革力量的方法。大多数IT领导者(67%)将在未来18个月内优先考虑GenAI。虽然人们对GenAI的前景感到非常兴奋,但也有一些担忧,包括GenAI对多个方面的网络安全影响的不确定性。

组织、政府、学者和无数其他人都在寻找利用GenAI技术的变革力量的方法。大多数IT领导者(67%)将在未来18个月内优先考虑GenAI。虽然人们对GenAI的前景感到非常兴奋,但也有一些担忧,包括GenAI对多个方面的网络安全影响的不确定性。

为了帮助我们了解网络安全的主要趋势,并使我们能够做出明智的决策来降低网络安全风险,高德纳(Gartner)在悉尼举行的Gartner安全与风险管理峰会上公布了其网络安全预测和建议。

预计2024年将是GenAI的又一个丰收年,因此Gartner的许多预测都与GenAI技术有关也就不足为奇了。

根据Gartner的说法,GenAI的采用将在2028年之前弥合技能差距,并最大限度地减少人类员工引发安全事件的发生。这有可能改变企业组织雇用和培训网络安全专业人员的方式。Gartner建议企业为更关键的网络安全角色寻找合适的人才,网络安全团队应该专注于内部应用,以方便员工。

“随着我们开始超越GenAI的可能性,坚实的机会正在出现,以帮助解决困扰网络安全的一些长期问题,特别是技能短缺和不安全的人类行为。今年最重要的预测显然与科技无关,因为人的因素继续获得更多的关注。”Gartner首席分析师Deepti Gopal说。

Gartner还预测,到2026年,将GenAI与安全行为和文化计划(SBCP)中的集成平台架构相结合的企业将减少40%人类员工导致的安全事件。

员工的个性化参与通常是有效的SBCP的重要组成部分,GenAI可以根据员工的独特属性来生成个性化的内容和培训材料。

使用客户信息的组织可能面临潜在的监管和法律影响。据Gartner公司称,由于新的法律法规,网络安全领导者可能面临个人法律风险。Gartner预测,到2027年,三分之二的全球100强企业将为网络安全领导者提供董事和高管(D&O)保险。

Gartner还强调了安全和风险管理(SRM)领导者利用GenAI与其他业务利益相关者积极合作以提高整体企业网络安全绩效的机会。这应该包括采取以人为中心的方法,使用GenAI来重新培训现有的安全人才,以增强而不是取代人类。

许多报告都强调了数据泄露的惊人成本,其中包括IBM的一项研究,该研究显示,2023年全球数据泄露的平均成本为445万美元,比三年前增加了15%。

Gartner分享了它对打击虚假信息的巨大成本的预测。根据Gartner的数据,企业用于对抗虚假信息的支出将超过5000亿美元,占网络安全和营销预算的50%以上。

虽然企业正在使用GenAI来提高其网络安全性能,但同样的技术也被坏人用来制造和传播高效的恶意信息。为了减轻这种威胁,Gartner建议首席信息安全官(CISO)明确定义企业反恶意信息程序的责任,并投资于解决这一问题的工具和技术。

随着大型语言模型(LLM)使用大量数据并创建更多新数据,GenAI应用程序可能会加剧安全和隐私风险。组织将不得不多方面部署的方法来创建一个负责任的人工智能框架。此外,利益相关者需要聚集在一起,全面评估GenAI对企业网络安全的影响,并找到解决问题的解决方案。


责任编辑:华轩 来源: Ai时代前沿
相关推荐

2023-11-06 07:06:36

2023-11-19 20:19:26

2023-04-20 10:50:25

2024-02-19 00:00:00

网络安全工具

2023-05-04 13:06:41

2024-02-27 16:06:58

2023-02-16 07:27:15

2023-12-13 18:31:47

2024-01-17 11:43:08

2020-07-08 11:23:25

安全技术数据

2024-01-18 18:19:53

2022-03-18 14:39:44

网络安全风险管理技术

2023-08-23 13:00:06

机器学习人工智能

2020-11-22 21:35:27

Gartner科技技术

2023-08-22 10:30:56

机器学习深度学习

2023-12-05 11:58:49

2024-03-28 06:00:00

人工智能机器学习网络安全

2021-11-17 22:46:58

网络安全远程办公隐私

2022-11-26 00:27:54

2009-07-02 09:29:41

点赞
收藏

51CTO技术栈公众号