2020网络安全的引爆点：人工智能

刚刚结束的RSAC2020大会主题为“人的因素”，业界广泛讨论的是如何强化和缓解人这一重要环节的脆弱性，但很多人忽略了“Human Element”背后的隐藏含义：淘汰一切可以淘汰的“人的因素”，才是网络安全未来比较大的商机。

[[317584]]

根据MarketsandMarkets人工智能网络安全预测报告，到2026年，人工智能网络安全市场规模预计将从2019年的88亿美元增长到382亿美元，年复合增长率高达23.3%(下图)。

市场增长的主要驱动力是新的攻击面和攻击矢量往往超出传统安全防御体系的感知范围、处理能力和响应速度，例如物联网的普及和联网设备的数量不断增加、网络威胁实例不断增加、对大数据隐私问题的担忧日益增加。

此外Wi-Fi网络的脆弱性在新兴威胁中暴露出的问题也日益严峻，例如本期微信二条介绍的，可通过WiFi网络实施的“智能手机超声波攻击”，以及安全牛之前报道过的《木马病毒Emotet可“空气传播”：感染附近WiFi网络》。

与此同时，人工智能在网络安全市场中的潜在机遇包括中小企业对基于云的安全解决方案的需求不断增长，以及越来越多地使用社交媒体来实现业务功能。微盟删库事件给所有企业CISO当头一棒：

人工智能永远拍不出鬼片，但人会，越重要的人员越容易拍出票房过10亿的大片。人工智能最大的优点是六亲不认油盐不进，面对网络犯罪分子屡试不爽的社工攻击，人工智能员工(例如呼叫中心程序或者半人半AI的混合型Cyborg员工)完全不懂如何上当。

如果您认为以上都是危言耸听，哗众取宠，那么我们来看看我们的对手，网络犯罪分子们将如何用人工智能技术“降维打击”现有的安全防御体系：

AI/ML 数据中毒与破坏

攻击者试图投毒(例如对抗性数据样本)业务应用中的AI/ML训练数据，以便破坏决策和运营。安全行业需密切关注此类新型攻击案例。试想，如果依赖AI自动化供应链的公司企业遭遇此类攻击，会发生什么情况?被污染的数据极可能导致产品供应严重不足或过剩。

Splunk高级副总裁兼安全市场总经理宋海燕表示：

我们预期将会看到用似是而非的数据样本给算法投毒的攻击，这些攻击的目的是带偏机器学习算法的学习过程。这不仅仅是愚弄智能技术，而是让学习算法看起来似乎工作正常，产出的却是错误的结果。

虚假音频技术将商务电邮入侵带入新征程

商务电邮入侵(BEC)指的是攻击者冒充CEO或其他高级经理，以完成交易或履行业务的名义，诱骗公司银行账户负责人做出错误转账。BEC每年给公司企业造成高达数十亿美元的损失。如今，在AI技术加持下，BEC攻击借助虚假电话音频再登新高峰。2019年我们已经见识到了第一波利用虚假音频冒充公司CEO来电的攻击事件。其中一个案例里，一家英国能源公司的员工被骗向攻击者的银行账户里转入了24万美元。专家认为，2020年将出现更多利用AI技术伪造的CEO虚假音频执行的BEC攻击。

Illumio创始人兼首席技术官PJ Kirner称：

即便公司已经培训员工如何识别潜在网络钓鱼电子邮件，仍有太多员工没准备好面对网络钓鱼音频，因为这些虚假音频听起来太可信了，而且真的没什么有效的检测方法。而且，即使此类‘音频钓鱼’攻击为人所知以后，我们也将在明年看到更多恶意黑客利用高管层的声音执行攻击。

人工智能恶意软件规避沙箱

深度伪造的音视频还只是坏人利用AI实施攻击的方式之一。安全研究人员需要绷紧神经，对AI驱动的恶意软件规避技术严阵以待。有些安全人员认为，2020年可能是恶意软件使用AI模型绕过沙箱的元年。

人工智能技术加持的恶意软件可以提高隐蔽性和针对性，绕过主流的检测技术。例如IBM的AI恶意软件概念验证工具DeepLocker能够利用可公开获取的数据对网络安全工具隐瞒自己，并且处于休眠状态，直到达到预定目标为止。一旦通过面部或语音识别检测到目标，便会执行恶意载荷。

Blue Hexagon首席技术官Saumitra Das预测：

恶意软件作者将抛弃用规则来确定‘特性’和‘进程’是否表明样本身处沙箱之中的做法，转而采用AI加以判断，有效创建能够更准确分析自身环境的恶意软件，确定自身是否在沙箱中运行，进而增加沙箱规避有效性。

生物特征识别的猫鼠游戏