机器学习和人工智能（AI）正成为一些要挟检测与照应工具的**技术。其即时学习和智能顺应网络要挟灵活的才干令安保团队锦上添花。
但是，一些恶意黑客也会应用机器学习和AI扩展其网络攻打，规避安保控制措施，以史无前例的速度找出新破绽并带来消灭性的结果。黑客应用这两种技术的经常出现方法有如下几种。
1. 渣滓邮件
Omida剖析师Fernando Montenegro示意，防疫人员驳回机器学习技术检测渣滓邮件的历史曾经有几十年之久了。“渣滓邮件预防是机器学习最成功的初始用例。”
假设所用渣滓邮件过滤器提供了未放行电子邮件或给出某个分数的要素，那么攻打者就可以调整自己的行为。他们会经常使用非法工具来让自己的攻打愈加成功。“只需提交的够多，你就可以恢复出模型是什么，而后你就可以调整攻打，绕过这个模型。”
软弱的不只仅是渣滓邮件过滤器。提供评分或其余某种输入的任何安保供应商，都或许被滥用。“不是一切人都存在这个疑问，但只需你不小心，有人就会恶意应用这种输入。”
2. 更粗劣的网络钓鱼电子邮件
攻打者不只仅驳回机器学习安保工具来测试自己的邮件是否经过渣滓邮件过滤器。他们还会经常使用机器学习来假造这些电子邮件。安永技术咨询合伙人Adam Malone称：“他们在立功论坛上颁布售卖这些服务的广告。他们应用这些技术生成更粗劣的网络钓鱼电子邮件，假造虚伪人设来推进诈骗优惠。”
这些服务打广告时的宣传重点就是经常使用了机器学习，而且或许不只仅是营销辞藻，而是真的如此。“试过就知道了。”Malone称，“成果那是真的好。”
攻打者可以应用机器学习发明性地定制网络钓鱼电子邮件，防止这些邮件被标志为渣滓邮件，从而让指标用户无时机点出来。他们定制的可不只仅是邮件文本。攻打者会应用AI生成看起来十分实在的照片、社交媒体资料和其余资料，让交换看起来尽或许实在可信。
3. 更高效的明码猜解
网络罪犯还会驳回机器学习来猜解明码。“咱们有证据显示他们经常使用明码猜解引擎的频率更高了，猜解成功率也更高。”网络罪犯正在假造更好的字典来破解被盗散列。
他们还应用机器学习识别安保控制措施，以便能够以更少的尝试次数猜中明码，提高成功入侵系统的概率。
4. 深度伪造
人工智能最令人惊慌的滥用方式是深度伪造工具：生成能够以假乱真的视频或音频的工具。“能够模拟他人声响或容颜骗人十分有效。”Montenegro称，“要是有人伪装我的声响，预计你也会中招。”
理想上，过去几年里披露的一系列严重案件显示，伪造的音频可以至公司损失成千盈百乃至数百万美元。德克萨斯大学计算机迷信传授Murat Kantarcioglu示意：“人们会接到老板打来的电话——那是假的。”
更为经常出现的是，骗子用AI生成看起来很实在的照片、用户资料和网络钓鱼邮件，让他们邮件看起来更可信。这是门大生意。依据FBI的报告，2016年至今，商务电邮欺诈已造成超越430亿美元的损失。去年秋天，媒体报道称，香港一家银行被骗转账给立功团伙3500万美元，仅仅是由于一名银行职员接到了自己意识的公司董事的电话。他认出了董事的声响，毫不疑心地授权了转账。
5. 有效化现成安保工具
罕用的很多安保工具都内置了某种方式的人工智能或机器学习。比如说，杀毒软件在查找可疑行为时就不止依赖基本的特色码。“网上马何可用的物品，尤其是开源的物品，都会被好人应用。”
攻打者可以经常使用这些工具，不是用来抵御攻打，而是用来调整自己的恶意软件，直到能够绕过检测为止。“AI模型都有很多盲点。”Kantarcioglu称，“你可以经过扭转攻打的特色加以调整，比如发送数据包的个数、攻打的资源等等。”
而且，攻打者应用的可不只仅是AI赋能的安保工具。AI只是大堆不同技术之一。举个例子，用户常能学会经过找寻语法失误来识别网络钓鱼邮件。而AI赋能的语法审核器，比如Grammarly，可以协助攻打者改善他们的写作。
6. 侦查
机器学习可用于侦查，攻打者可以之检查指标的流量形式、进攻措施和潜在的破绽。侦查不是件容易的事，个别网络罪犯干不了。“想要应用AI侦查，你得具有必定的技艺。所以，我以为，只要初级的国度黑客才会用这些技术。”
但是，一旦某种水平上商业化了，这种技术经过公开黑市以服务的方式提供，那就很多人都可以应用了。“假设某个黑客国度队开发了一套经常使用机器学习的工具包，并且颁布到立功社区，这种状况也或许发生。”Mellen称，“但网络罪犯仍需了解机器学习运行程序的作用和有效应用方式，这就是应用的门槛。”
7. 自治代理
假设企业觉察自己正遭受攻打，断开受影响系统的互联网衔接，那么恶意软件或许就无法回连其命令与控制（C2）主机接纳进一步的指令。“攻打者或许想要搞出一套智能模型，即使在无法间接控制的状况下也能常年驻留。”Kantarcioglu称，“但关于个别网络立功，我以为这一点不是特意关键。”
8. AI投毒
攻打者可以经过馈送新消息来诈骗机器学习模型。环球危险钻研所初级副钻研员Alexey Rubtsov称：“对手可以操纵训练数据集。例如，他们故意让模型发生倾向，让机器学习失误的方式。”
举个例子，黑客可以操纵被劫持的用户账户每天清晨2点登录系统启动有害的上班，造成系统以为清晨2点上班没有任何可疑之处，从而缩小用户必定经过的安保关卡。
2016年微软Tay聊天机器人被教成种族主义者就是相似的要素。雷同的方法可用于训练系统以为特点类型的恶意软件是安保的，或许特定爬虫行为是齐全反常的。
9. AI含糊测试
非法软件开发人员和浸透测试人员经常使用含糊测试软件生成随机样本输入，尝试搞崩运行程序或许找出破绽。此类软件的增强版应用机器学习以更具针对性、更有条理的方式发生输入，例如优先思考最有或许造成疑问的文本字符串。这类含糊测试工具为企业所用能取得更好的测试成果，但在攻打者手中也更为致命。
以上这些技术都是安保补丁、反网络钓鱼教育和微分隔等网络安保手腕依然至关关键的要素之一。佛瑞斯特钻研所的Mellen称：“深度进攻为什么如此关键？这也是其中一个要素。你得设置多重路障，而不是仅仅驳回攻打者反用来对付你的那一种。”
不足专业常识阻碍了恶意黑客应用机器学习和AI
投资机器学习须要少量的专业常识，而机器学习关系专业常识目前是稀缺技艺。而且，由于很多破绽都没修复，攻打者可以用来打破企业防线的方便路径多的是。
“万无一失的指标多的是，不用经常使用机器学习和人工智能动员攻打也能赚钱的其余渠道也大把抓。”Mellen示意，“依据我的阅历，绝大少数状况下，攻打者并没无应用这些技术。”不过，随着企业进攻的优化，网络罪犯和黑客国度队也会继续投入攻打开发，这种平衡或许很快就会开局转变了。