聊聊ChatGPT 集成到网络安全产品中作为行业测试其功能

安全 应用安全
虽然已经有很多关于 OpenAI 的 ChatGPT 如何被滥用于恶意目的以及它如何构成威胁的讨论,但人工智能聊天机器人对网络安全行业也非常有用。

​随着行业正在测试其功能和局限性,ChatGPT 越来越多地集成到网络安全产品和服务中。

虽然已经有很多关于 OpenAI 的 ChatGPT 如何被滥用于恶意目的以及它如何构成威胁的讨论,但人工智能聊天机器人对网络安全行业也非常有用。

ChatGPT 于 2022 年 11 月推出,被许多人描述为革命性的。它建立在 OpenAI 的 GPT-3 大型语言模型家族之上,用户通过提示与之交互。

有许多文章描述了 ChatGPT 的功能如何被用于恶意目的,包括编写可信的网络钓鱼电子邮件和创建恶意软件。 

然而,ChatGPT也可以为防御者带来很多好处,网络安全行业也越来越多地将其融入到产品和服务中。此外,该行业的一些成员一直在测试其功能和局限性。 

在过去的几个月里,几家网络安全公司透露他们已经开始或计划使用 ChatGPT,一些研究人员已经找到了聊天机器人的实际用例。

云安全公司Orca是最早宣布将 ChatGPT(特别是 GPT-3)集成到其平台中的公司之一。目标是加强为客户提供的云安全风险补救措施。 

“通过使用我们自己的安全数据集对这些强大的语言模型进行微调,我们已经能够提高补救步骤的细节和准确性——为您提供更好的补救计划,并帮助您尽快以最佳方式解决问题”奥卡解释道。 

Kubernetes 安全公司 Armo 已将ChatGPT 的生成 AI集成到其平台中,使用户可以更轻松地创建基于 Open Policy Agent (OPA) 的安全策略。

“Armo Custom Controls 使用安全性和合规性 Regos 以及其他上下文对 ChatGPT 进行预训练,利用和利用 AI 的力量来生成通过自然语言请求的定制控件。用户获得由 ChatGPT 生成的完整 OPA 规则,以及规则的自然语言描述和修复失败控制的建议补救措施——快速、简单且无需学习新语言,”该公司表示。

Logpoint最近宣布在实验室环境中为其 LogPoint SOAR(安全编排、自动化和响应)解决方案集成 ChatGPT。 

“Logpoint SOAR 的新 ChatGPT 集成允许客户调查在网络安全中使用 SOAR 剧本和 ChatGPT 的潜力,”该公司表示。 

网络物理安全融合软件公司AlertEnterprise推出了一款由 ChatGPT 提供支持的聊天机器人。它允许用户快速获取有关物理访问、身份访问管理、访客管理、门阅读器分析以及安全和安全报告的信息。用户可以向聊天机器人提问,例如“我们上个月发放了多少新员工徽章?” 或“显示即将到期的受限区域访问员工培训”。

Accenture Security 一直在分析 ChatGPT自动化某些网络防御相关任务的能力。 

Coro 和Trellix等网络安全公司目前也在探索将 ChatGPT 嵌入其产品的可能性。

网络安全社区的一些成员分享了他们使用 ChatGPT 进行的测试的结果。例如,培训提供商HackerSploit展示了如何使用它来识别软件漏洞,以及如何利用它进行渗透测试。 

卡巴斯基的一名研究人员进行了一些妥协指标 (IoC) 检测实验,并在某些领域发现了有希望的结果。这些测试包括检查 IoC 系统、将基于签名的规则集与 ChatGPT 输出进行比较以识别差距、检测代码混淆以及查找恶意软件二进制文件之间的相似性。 

在线恶意软件沙箱 Any.Run 使用 ChatGPT 来分析恶意软件。聊天机器人能够分析简单的样本,但在被要求查看更复杂的代码时失败了。

NCC Group使用 AI进行了安全代码审查,发现它“并没有真正起作用”。该公司发现,虽然它可以正确识别一些漏洞,但在很多情况下它也会提供虚假信息和误报,使其无法可靠地进行代码分析。 

安全研究人员Antonio Formato和Zubair Rahim描述了他们如何将 ChatGPT 与 Microsoft Sentinel 安全分析和威胁情报解决方案集成以进行事件管理。 

约翰霍普金斯大学 SAIS 的安全研究员兼兼职讲师 Juan Andres Guerrero-Saade 最近将 ChatGPT 整合到一门关于恶意软件分析和逆向工程的课程中。ChatGPT 帮助学生快速获得“愚蠢问题”的答案,从而防止课堂中断。它还使他们更容易理解所使用的工具、解释代码,甚至编写脚本。 

责任编辑:武晓燕 来源: 河南等级保护测评
相关推荐

2011-10-14 10:41:30

2018-05-14 16:24:08

2010-06-29 16:45:38

UTM信息安全启明星辰

2010-10-28 13:24:10

联想网御MIPS信息安全

2020-02-26 07:33:02

RSAC 2020网络安全产品

2012-10-24 13:32:58

网络安全梭子鱼

2011-06-23 14:11:26

2017-12-17 22:03:29

2018-01-04 14:10:22

网络安全服务安全技术

2011-07-25 09:24:07

2011-05-04 18:17:12

2016-03-12 21:35:37

2016-10-18 13:49:07

2013-09-26 10:06:21

安全服务安全产品

2011-04-06 13:55:06

2012-10-12 17:31:34

2013-05-22 10:40:58

锐捷网络安全产品王圣魁

2010-08-03 09:32:32

2011-03-25 10:50:26

2017-06-27 08:13:39

点赞
收藏

51CTO技术栈公众号