企业如何用大语言模型打赢社会工程反击战?

安全 应用安全
过去几年中,尽管企业在网络安全解决方案方面投入巨资,网络犯罪造成的经济损失却逐年上升。根据Cybersecurityventures的报告,2024年全球网络犯罪造成的损失将超过10万亿美元,成为全球“第三大经济体”。

过去几年中,尽管企业在网络安全解决方案方面投入巨资,网络犯罪造成的经济损失却逐年上升。根据Cybersecurityventures的报告,2024年全球网络犯罪造成的损失将超过10万亿美元,成为全球“第三大经济体”。

近年来黑客活动向“基于身份的攻击”转型,2024年用于窃取身份、凭据和隐私的社会工程攻击,尤其是网络钓鱼和商业电子邮件入侵(BEC)将是企业安全团队的头号威胁。根据Verizon的数据泄露报告,82%的数据泄露事件涉及社会工程攻击。KnowBe4的调查显示,2023年,70%的员工至少经历过一次网络钓鱼攻击。

过去三年,一些最重大的网络安全事件往往始于社会工程攻击:

  • 2021年,Colonial Pipeline遭到勒索软件攻击,导致美国东海岸汽油供应中断。攻击者通过网络钓鱼电子邮件获得了员工的登录凭据,从而进入公司网络。
  • 2022年,微软遭到SolarWinds供应链攻击。攻击者通过向SolarWinds客户发送恶意软件更新,在全球范围内感染了数千个组织。
  • 2023年,Uber遭到数据泄露。攻击者通过社会工程攻击获得了员工的登录凭据,从而窃取了公司7700万用户的数据。

社会工程攻击利用的是人性心理而非技术漏洞,因此具有隐蔽性和难以通过纯技术手段防御的特点。除了加强员工安全意识培训、实施MFA和零信任方法外,企业还必须积极创新,拥抱主动防御方法,从根本上扭转在社会工程攻击中所处的不利局面。

安全意识创新方法势在必行

为应对这些挑战,越来越多的企业安全团队转向采用创新策略来加强社会工程攻击防御能力。作为对抗社会工程攻击最重要的措施,安全意识培训的重要性日益凸显,Sage的调查显示,投资安全意识计划可以将修复漏洞的时间缩短82%。但值得注意的是,依然有超过半数的CISO对安全意识培训的效果并不满意。

在人工智能快速武器化的今天,安全意识培训本身也正面临一场技术革命,人工智能大型语言模型(LLM)有望成为安全意识培训创新的关键催化剂,彻底改变甚至逆转社会工程攻击的攻防态势。

例如,LLM可以生成模仿网络钓鱼电子邮件的通信内容,但其目的是教育用户识别此类攻击的标志,将模拟攻击转化为实时学习机会。此外,LLM可以训练识别网络犯罪分子使用的语言和策略模式,从而及时预测并阻止攻击。LLM还可以分析社会工程攻击者不断变化的策略,帮助制定欺诈反制措施,误导攻击者、浪费他们的资源并最终阻止他们实现恶意目标。

将人工智能LLM集成到网络安全策略中是企业从被动防御机制向主动防御机制的范式转变。通过针对社会工程攻击的心理基础分析,企业可以破坏这些攻击的有效性,不仅通过技术手段,还可“以彼之道还施彼身”,利用攻击者所利用的认知偏差。

黑客机器人:从被动防御到主动出击

美国国会技术大学的Mary Aiken和Diane Janosek以及应用研究协会的Michael Lundie、Adam Amos-Binks和Kira Lindke在最新研究论文中提出了“黑客机器人”(Hackbot)的进攻性防御策略。

“黑客机器人”的实验设计“黑客机器人”的实验设计

该论文题为“企业反击:构想黑客机器人-在网络防御环境中逆转社会工程攻击”(标题致敬了星球大战的“帝国反击战”),提出了“黑客机器人”的概念-一种自动反击的创新方法,专门用于在网络防御环境中反击社会工程攻击。

论文作者指出,网络防御正从被动转向主动,研究人员正在评估“是否可以将破坏性的认知技术应用于攻击者的认知限制和认知偏差”。类似地,英国国家网络部队(NCF)最近的一份报告也介绍了英国如何采取一种新的方式进行进攻性网络行动,重点破坏信息环境。

这种方法引入了“认知效应”学说,旨在通过利用对数字技术的依赖来对抗敌对行为。因此,进攻性网络行动可以限制对手收集、分发和信任信息的能力。

“黑客机器人”的概念强调网络安全既涉及技术因素也涉及人类心理,理解网络攻击的人为因素对于有效防御至关重要,并列举了网络犯罪分子的十个心理漏洞,“黑客机器人”可以利用这些漏洞来建立相应的反击模式。这些漏洞包括:

  • 信任偏差
  • 在线去抑制
  • 冲动
  • 冒险
  • 认知超负荷
  • 寻求奖励
  • 性变态
  • 黑暗人格特质
  • 情感属性
  • 注意力隧道效应

根据研究论文,“黑客机器人”的任务是生成可以在社会工程攻击框架中使用的文本。这需要理解特定攻击类型的背景,能够处理各种不同的攻击,并生成符合攻击者目标的对话。可以使用预训练的LLM,并使用真实世界的社会工程攻击事件报告对其进行微调。LLM非常适合这项任务,因为开源LLM易于获取,只需要相对较少的下游任务示例,并且可以轻松适应新的环境。

“黑客机器人”的目标是成为社会工程攻击的“蜜罐”,让攻击者参与长时间的欺骗性互动,分散注意力并消耗资源,并专门设计用于在网络防御环境中逆转社会工程攻击。

在网络犯罪的军备竞赛中,心理反击策略是逆转社会工程攻防态势的关键一步。随着网络威胁变得越来越复杂,针对攻击者的心理漏洞,利用人工智能大语言模型通过“心理战”反击社会工程攻击,为网络安全领域开辟了新的前沿阵地。该方法不仅增强了现有的防御措施,而且还为企业建立更具适应性、智能化和更高效的网络安全态势铺平了道路。

责任编辑:华轩 来源: GoUpSec
相关推荐

2017-08-03 15:44:22

2017-11-06 15:48:30

OpenStack白城反击战

2017-12-19 14:53:18

2009-05-12 09:31:07

Windows 7微软操作系统

2011-03-14 12:59:37

2011-06-13 17:15:31

笔记本评测

2015-04-17 09:27:24

2012-02-15 17:27:24

2021-02-20 16:53:14

Android 12定制系统安卓

2018-07-10 10:09:49

轻应用Facebook开发者

2023-05-11 06:59:11

AI重构搜索

2023-01-26 14:13:57

2023-03-02 15:58:58

谷歌李世石DeepMind

2021-02-20 10:47:43

DDoS

2023-02-20 09:29:30

ChatGPTAI

2015-09-22 10:49:17

Dynatrace应用性能

2020-07-29 15:15:05

Veeam

2018-07-16 08:36:13

2021-11-16 23:07:59

手机性能技术
点赞
收藏

51CTO技术栈公众号