许多利益相关者开始接受这样一个事实，即人工智能也可以是“邪恶”的力量。根据国外相关媒体报道，在美国和日本，超过90%的网络安全专业人士预计黑客会开始使用人工智能发动攻击。事实上，这已经成为现实。
人工智能为网络黑客提供了巨大的机会，使他们能够在速度、数量和复杂程度方面大规模增加攻击。根据Alejandro Correa Bahnsen在Cyxtera中，基于AI的攻击可以在超过15%的时间内绕过传统的检测系统，而普通的网络钓鱼攻击(没有人工智能)只能在0.3%的时间内检测到攻击。
用人工智能保卫人工智能：下一代网络威胁的人工智能解决方案
在应对这种日益增长的威胁时，需要注意的是，基于人工智能的进攻的同时，也可以做出基于人工智能的防御。也就是说，deepfakes可以欺骗安全系统，因此应用更高级别的人工智能支持的身份验证等等。
现在只是刚刚开始接受人工智能的风险。企业应尽快采取行动保护其系统免受这些攻击。WannaCry为网络攻击引入了一个完全不同的复杂程度——现在加上人工智能?那么我们不知道以后会发生什么事。
人工智能在网络攻击中的风险
1、可扩展性
在2016年的黑帽大会上，资深研究人员首次展示了自动鱼叉式钓鱼程序. 鱼叉式网络钓鱼通常是一种任务分配和耗时的方式，这取决于攻击的范围。攻击者很可能需要收集大量关于目标的信息，以进行有效的社会工程。这些研究人员展示了如何使用数据科学和机器学习来自动化和规模化鱼叉式网络钓鱼攻击。
2、假冒
早在几个月前，有专家认为，以后AI是网络犯罪的主要威胁。因为AI具体了现在网络犯罪的所有智能特征，加上它可以学习冒充。这种冒充行为可能很容易就骗过一部分人，通过特定的方式进行诈骗。更糟糕的是，AI是得天独厚的产物，它可能在实施的过程中不断升级做出自我修正，所以很多时候我们有所怀疑也会被它首先遇见。
可能有人说使用更高级的语音或者生物身份认证。但前度时间热门“蚂蚁呀嘿”为什么突然销声匿迹了，因为就是暴露了人面识别生物的安全漏洞。
3、躲避检测
人工智能可以用来逃避检测的一种方法是数据中毒. 通过锁定和破坏用于训练和配置智能威胁检测系统的数据，例如，使系统明显地将垃圾邮件标记为安全的，黑客可以更隐蔽、更危险地转移目标。
研究表明，仅对一个数据集的3%进行毒害，就可以使错误的可能性提高91%。人工智能可以用来逃避攻击同时也可以适应防御机制。
4、复杂性
以上所有的要点都强调了人工智能如何增强攻击。由于自动化和机器学习，人工智能攻击的情况更糟。无论攻击成功与否，自动化突破了人类努力的局限，而机器学习则使攻击算法从经验中改进，变得更加高效。
适应性意味着，除非开发出更强大的抵抗创新工具，否则基于人工智能的攻击只会变得更强大、更危险。
用人工智能防御人工智能
A、 威胁检测的机器学习
在用人工智能防御人工智能的过程中，机器学习可以帮助自动检测威胁，尤其是对于传统防病毒和防火墙系统无法抵御的新威胁。机器学习可以将传统威胁检测中的严重威胁误报实例显著减少50%到90%(网络安全智能化)。
与上一代基于特征的检测工具不同，机器学习可以监视和记录组织中员工的网络使用模式，并在观察到异常行为时发出警报。
显然地， 93%的SOC现在在威胁检测中使用人工智能和机器学习工具。生成的数据越多，网络攻击越复杂，安全专业人员就必须通过有监督和无监督的机器学习来增强他们的防御和检测能力。
B、 通过增强人工智能认证
弱身份验证是恶意参与者获得对端点的未授权访问的最常见方式。即使是生物特征认证也似乎不再具有防故障功能。人工智能通过增加防御能力来提高防御能力认证要求。
基于风险的认证工具使用人工智能支持的行为生物特征识别可疑活动并防止端点泄露。然后，身份验证扩展到实时智能的用户验证. RBA也称为自适应智能，它评估位置信息、IP地址、设备信息、数据敏感度等详细信息，以计算风险评分并授予或限制访问权限。
例如，如果一个人在工作日的早晨总是通过计算机登录，而且有一次，他试图在周末通过移动设备在餐厅登录，这可能是一种异常的迹象，系统会及时对其进行标记。
对于智能RBA安全模型，仅仅知道系统的密码对于攻击者来说是不够的。
除此之外，人工智能认证系统将开始实施连续身份验证，同时仍在使用行为分析。该系统不是每个会话只登录一次，而是在中途受到攻击，而是在后台连续工作，通过分析用户环境和行为以确定可疑模式，从而对用户进行身份验证。
C、预防网络钓鱼的人工智能
增强威胁检测是人工智能用于防止电子邮件钓鱼攻击而且，在使用网站下载媒体内容时，还可以实现安全性。它也可以通过简单的行为分析来实现。假设你收到一封据称是老板的邮件或者信息，AI可以对信息进行分析，找出与实际老板平时沟通方式与其或者行为式不一致的模式。
诸如写作风格、语法和单词选择等功能可以揭示矛盾，防止陷入陷阱，并安全地浏览和下载。
人工智能还可以扫描电子邮件元数据来检测被篡改的签名，即使电子邮件地址看起来没问题。它还扫描链接和图像以验证其真实性。与传统的反网络钓鱼工具不同，传统的反钓鱼工具通过容易绕过的过滤器来阻止恶意电子邮件，人工智能直接面对网络钓鱼电子邮件的核心：社会工程。
让社会工程攻击难以克服的是，它们是心理上的，而不是技术上的。到目前为止，纯粹的人类智慧和怀疑论一直是克服它们的工具。现在，人工智能已经加强了预防，将忧虑扩展到人类的极限之外。
通过识别对人类来说不太明显的模式，人工智能可以确定电子邮件何时是恶意的即使它不包含任何可疑的链接或代码。它通过自动化大规模地做到了这一点。
D、 预测分析
人工智能在网络安全方面的最终好处是能够在攻击发生之前预测并建立防御。人工智能可以帮助人类监督者在组织的整个网络基础设施上保持全面的可见性，并分析端点以检测可能的漏洞。在这个远程工作和BYOD策略的时代，IT部门越来越发现端点安全性困难，AI可以使他们的工作更轻松。
人工智能是我们对0day漏洞的最佳选择，允许我们在这些漏洞被恶意参与者利用之前快速构建智能防御。人工智能网络安全正在成为我们组织的一种数字免疫系统，类似于人类体内的抗体如何成为针对外来物质的系统攻击。
结论
去年，一些澳大利亚研究人员绕过了著名的Cylance 人工智能杀毒软件，没有使用数据集中毒的常用方法。他们只是研究了杀毒软件的工作原理，并创建了一个通用的绕过解决方案。这次演习要求质疑离开计算机来决定什么是值得信任的做法，也引起了人们对人工智能对网络安全的有效性的质疑。
然而，更重要的是，这项研究强调了这样一个事实：人工智能并不是一颗灵丹妙药，人类的监督对于打击先进的网络威胁仍然是必要的。我们所知道的是，仅靠人类的努力和传统的网络安全工具是不足以克服由人工智能驱动的下一代网络威胁的。
我们必须把人工智能作为对付人工智能的最佳攻防手段。
