基于大型语言模型 (LLM) 的生成式 AI 聊天机器人（例如 OpenAI 的 ChatGPT）今年风靡全球。ChatGPT 通过让数百万人使用人工智能的力量而成为主流。
此举激发了其他公司（多年来一直在实验室研究类似的人工智能）推出自己的公共法学硕士服务，并且已经出现了数千种基于这些法学硕士的工具。
不幸的是，恶意黑客迅速采取行动，利用这些新的人工智能资源，利用 ChatGPT 本身来完善和制作网络钓鱼电子邮件。然而，事实证明，使用主流法学硕士很困难，因为来自 OpenAI、微软和谷歌的主要法学硕士都有防护措施，以防止它们被用于诈骗和犯罪活动。
因此，一系列专门针对恶意网络攻击而设计的人工智能工具开始出现。
WormGPT：针对威胁行为者的智能工具
7 月初，暗网论坛以及随后的 Telegram 消息服务上出现了有关针对网络攻击进行优化的 LLM 聊天机器人的讨论和推广。这些工具通常以订阅的形式提供给潜在的攻击者。它们与流行的法学硕士类似，但没有护栏，并根据选定的数据进行训练以实现攻击。
利用生成式人工智能的人工智能工具的领先品牌称为 WormGPT。它是一个基于 GPTJ 语言模型的 AI 模块，于 2021 年开发，已用于商业电子邮件泄露 (BEC) 攻击和其他恶意用途。
用户只需输入创建欺诈电子邮件的说明 - 例如，“编写一封来自银行的电子邮件，旨在诱骗收件人放弃其登录凭据。”
然后，该工具会生成一封独特的、有时很聪明、通常语法完美的电子邮件，据一些分析师称，这比大多数 BEC 攻击者自己编写的电子邮件更有说服力。例如，独立网络安全研究员 Daniel Kelley 发现 WormGPT 能够生成一封诈骗电子邮件， “这不仅非常有说服力，而且在战略上也很狡猾”。
WormGPT 的据称创建者声称，它是基于一家名为 EleutherAI 的公司开发的开源 GPTJ 语言模型构建的。据报道，他正在研究 Google Lens 集成（使聊天机器人能够发送带有文本的图片）和 API 访问。
到目前为止，人们识别欺诈性网络钓鱼电子邮件的最常见方法是通过可疑的措辞。现在，多亏了像 WormGPT 这样的人工智能工具，这种“防御”已经完全消失了。
犯罪人工智能工具的新世界
WormGPT 启发了山寨工具，其中最著名的是一种名为 FraudGPT 的工具，该工具与 WormGPT 类似，用于网络钓鱼电子邮件、创建破解工具和刷卡（一种信用卡欺诈）。
在犯罪法学硕士的阴暗世界中出现的其他“品牌”有 DarkBERT、DarkBART、ChaosGPT 等。DarkBERT 实际上是一种打击网络犯罪的工具，由一家名为 S2W Security 的韩国公司开发，该公司接受过暗网数据的培训，但该工具很可能已被用于网络攻击。
一般来说，这些工具用于增强网络攻击的三个方面：
- 增强了网络钓鱼。网络攻击者可以使用 WormGPT 和 FraudGPT 等工具以多种语言创建大量措辞完美、有说服力且巧妙的网络钓鱼电子邮件，并大规模自动化发送。
- 提高了智力。攻击者可以让工具收集该信息，而不是手动研究有关潜在受害者的详细信息。
- 促进了恶意软件的创建。与 ChatGPT 一样，其恶意模仿者可以编写代码。这意味着新手开发人员无需具备以前所需的技能即可创建恶意软件。
人工智能军备竞赛
恶意 LLM 工具确实存在，但迄今为止它们所造成的威胁仍然很小。据报道，这些工具不可靠，需要大量的试验和错误。而且它们价格昂贵，每年的使用成本为数百美元。迄今为止，技术娴熟、无人协助的人类攻击者仍然是最大的威胁。但这些犯罪法学硕士真正所做的是降低大量非熟练攻击者的进入门槛。
尽管如此，恶意网络攻击人工智能工具的发展还处于早期阶段。预计能力会提高，价格会下降。
恶意法学硕士的兴起代表了攻击型人工智能和防御型人工智能之间的新军备竞赛。基于人工智能的安全解决方案在防御 LLM 支持的攻击日益增长的威胁方面名列前茅：
- 使用基于人工智能的安全解决方案进行威胁检测并消除基于人工智能的网络攻击。
- 使用多重身份验证(MFA)。
- 将有关人工智能增强攻击的信息整合到网络安全意识培训中。
- 及时了解补丁和更新。
- 掌握威胁情报，随时了解快速发展的基于 LLM 的攻击世界。
- 重新审视并优化您的事件响应计划。
我们现在生活在一个基于法学硕士的生成式人工智能工具被广泛使用的世界。网络攻击者正在致力于开发这些能力，以便攻击者能够更快、更聪明、更便宜地实施犯罪，而且攻击者的技能也更少。
