人工智能背景下全球关键信息基础设施安全挑战

摘　要

随着算力提升、数据积累等因素的共同作用，人工智能技术的应用门槛逐步降低，在网络安全领域的应用快速拓展，加剧现实安全威胁的同时也催生了新型安全威胁，全球关键信息基础设施安全受到挑战。从人工智能在网络安全领域的应用出发，以网络安全威胁为视角进行分析，得出关键信息基础设施防护面临着攻击模式自动演化、攻击手段自动化、攻击者分工专业化等挑战。结合当前全球关键信息基础设施防护的普遍实践，提出智能化防护体系、缩短发起响应的时间、培养 AI+ 网络安全人才等对策，为保障关键信息基础设施安全提供科学参考。

内容目录：

1　人工智能在网络安全领域的应用现状和特点

1.1　人工智能在网络安全领域的应用现状

1.2　人工智能在网络安全领域的特点

2　人工智能与关键信息基础设施安全威胁分析

2.1　攻击模式自动演化挑战

2.2　攻击手段自动化挑战

2.3　攻击者分工专业化挑战

3　关键信息基础设施应对挑战的建议

3.1　构建智能化防护体系

3.2　缩短发起响应的时间

3.3　培养 AI+ 网络安全人才

4　结　语

自 20 世纪 50 年代首次提出人工智能这一概念后，随着计算机技术的不断进步，人工智能概念的范围也逐渐扩大，计算机图像识别、数据挖掘、深度学习等技术也相继被纳入人工智能的范畴。近些年，在算力提升、数据积累等因素的共同作用下，人工智能技术的应用范围不断扩大，应用门槛也逐步降低，引起了世界主要国家和集团的高度重视。2017 年，中国印发了《新一代人工智能发展规划》，提出要在 2030 年使“中国人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心”。2019 年，美国发布《2018 国防部人工智能战略概要》，提出要将人工智能作为未来关键的军事技术进行研究，并于同年发布了新的《国家人工智能研究与发展战略规划》。欧盟、俄罗斯、日本、印度等国也相继发布其在人工智能领域的规划和目标 。人工智能已经成为大国竞争的新领域，各国政府都在积极推动人工智能技术在各领域的应用。与此同时，人工智能的各类问题也引起了研究者们的重视，特别是人工智能伦理、人工智能军事化、人工智能对政府治理的影响等议题尤为突出，已经有研究者将人工智能列为未来几十年中人类面临的最大挑战之一 。随着人工智能在网络安全领域应用的逐步加深，越来越多的研究者也开始重视人工智能对于网络安全的影响。

关键信息基础设施作为网络空间的基础组成部分，其安全关乎网络空间的稳定与秩序。近年来，全球范围内针对关键信息基础设施的攻击呈快速增长和危害增强的趋势：2019 年，委内瑞拉国家电网干线遭到攻击，造成全国大面积停电；2021 年，美国最大燃油管道公司被黑客勒索，导致美国东海岸能源供应出现问题；2022 年俄乌战争期间，乌克兰的黑客支持者对白俄罗斯铁路网络进行攻击，导致正常的铁路调度无法完成。随着数字经济在国家发展中的重要性不断增强，关键信息基础设施在网络攻击目标中的重要性明显提升，攻击关键信息基础设施成为各类组织获取非法经济利益、推进政治主张的重要手段。人工智能在网络安全领域的应用也强烈地影响着关键信息基础设施的安全，特别是由于人工智能的“赋能”效应对各类网络安全威胁的赋能使现有的关键信息基础设施安全防护体系面临挑战。

本文将对当前人工智能在网络安全领域的应用情况进行梳理分析，在此基础上根据关键信息基础设施防护现状，从网络安全威胁的角度分析关键信息基础设施面临的挑战，最后提出应对挑战的对策与建议，以期为关键信息基础设施安全防护工作提供理论参考。

１　人工智能在网络安全领域的应用现状和特点

人工智能技术在网络安全领域得到应用的时间并不长，但因其应用前景使得越来越多的研究者投入其中，如今，人工智能已经是网络安全领域中一个无法忽视的应用方向并形成了在其他应用领域所没有的特点。

1.1　人工智能在网络安全领域的应用现状

人工智能技术在网络安全领域中的应用最早可以追溯到 2000 年左右，当时有国外的研究人员提出在入侵检测中采用机器学习算法来提高检测效率，为人工智能在网络安全领域的应用提供了初始方向 。得益于过去 20 年来计算机算力水平的提高、网络安全数据的积累以及各类算法的进步，人工智能在网络安全领域的应用越来越多，从现有的情况来看，人工智能在网络安全领域的应用主要集中在威胁检测、漏洞挖掘与修复、组织和发现僵尸网络、威胁情报识别以及绕过安全防护等方向。

威胁检测是人工智能在网络安全领域最早应用的方向之一，应用也最为成熟。传统的流量分析检测技术对流经检测节点的每个数据包进行检测分析，存在资源开销大、溯源表现弱等客观问题。美国“棱镜计划”曝光后，国内外网络安全研究机构和厂商加快了将人工智能技术引入威胁检测中的步伐。美国的 FireEye 公司、以色列的 Deep Instinct 公司以及国内的 360政企安全、启明星辰、安天等公司均在自己的产品中引入了人工智能技术，融合日志、流量、资产等信息，提高了威胁检出效率 。

漏洞挖掘与修复一直都是网络安全领域最受重视的方向之一。长期以来，漏洞挖掘和修复工作都要依赖人工进行，这限制了网络安全人员对漏洞的发现和修正速度，给黑客及黑客组织使用漏洞进行攻击提供了机会。2016 年，美国国防部高级研究计划局资助的第一届机器自动攻防大赛（Cyber Grand Challenge，CGC）揭示了人工智能加持下漏洞自动化挖掘和修复的未来。近年来，已经有大量研究者提出将深度学习应用到漏洞挖掘中，并取得了一定的成果。

僵 尸 网 络 一 直 在 隐 藏 攻 击 者、 开 展 大 规模 分 布 式 拒 绝 服 务 攻 击（Distributed Denial of Service，DDoS）方面扮演着重要角色。人工智能给僵尸网络带来的最大变化就是以大量物联网（Internet of Things，IoT）设备为基础，通过蜂巢网络（Hivenets）和机器人集群（Swarmbots）使僵尸网络中的设备从“奴隶”变为可以在一定监督下进行自主行动的机器人，极大地提高了僵尸网络拥有者能够维护的网络规模以及僵尸网络的扩张速度。网络安全研究者也尝试通过使用人工智能技术来实现为僵尸网络发起的DDoS 攻击提供早期检测 。

威胁情报识别与利用对于现在的网络安全愈发重要。攻击者数量的快速增长，迫使网络安全防护体系尝试在攻击发起之前就形成阻断，这就是威胁情报的核心作用。然而传统的威胁情报生成方法识别精度不高，普遍需要人工分析确认。人工智能能够通过算法和模型提高人工分析的速度和准确度，进而提高威胁情报的产出。已有研究者提出使用神经网络来进行威胁实体的识别，并在大规模网络安全数据集上取得了较好的实验结果。

绕过攻击对象的安全防护一直是网络攻击者的目标，人工智能通过威胁模型算法提高安全防护的同时，也给攻击者提供了新的安全敞口和攻击思路。例如，人工智能模型的训练需要不断的数据积累，攻击者可以通过构造错误的数据来干扰人工智能模型的学习，从而使模型失效，也就是“中毒攻击”。也有直接通过构造数据对算法本身脆弱性进行攻击的例子。也有攻击者尝试通过人工智能来发现现有防御体系的弱点或隐藏具体攻击行为。目前已有研究提出通过对抗神经网络来实现对现有流量监测技术的绕过。

除此之外，人工智能在网络测绘、事件响应、风险评估等方面的应用也在持续深入。

1.2　人工智能在网络安全领域的特点

通过对人工智能在网络安全领域的应用情况进行梳理，本文认为当前人工智能在网络安全领域的应用相比其他领域的应用存在技术服务化、伦理顾虑少、对抗性强等特点。

（1）技术服务化。人工智能经过多年的发展，即使已经比最初诞生时大幅度降低了学习和使用的门槛，但其所要求的算力、知识和数据的绝对数量依然是大部分个人开发者难以负担得起的。在人工智能应用的几个主要领域中，人工智能作为产品进行售卖时往往需要进行较多的定制才能够贴合实际业务场景的需要。网络安全领域高度单一的对抗需求使得人工智能产品能够形成聚焦精准方向的应用。专注于攻击的比通用型的人工智能应用开发更加简单、场景更加单一，不再需要终端用户的大量适配，可以轻松封装成为产品，从而使开发者和使用者分离开来，也就是技术服务化。

（2）伦理顾虑少。人工智能的伦理问题一直是社会关切的话题，已有学者指出人工智能本身具有的特征可能在基本人权、社会秩序和国家安全上产生伦理风险。在网络安全领域中，已经有学者考虑到人工智能在个人信息保护中的伦理问题。但基于网络安全领域本身的安全属性，使得研究者们在新技术应用时受到的制约相对较少且缺少监督。在自动化攻击手段使用场景和影响、自动化渗透测试方面对从业人员的影响等相关伦理问题的顾虑和讨论较少。

（3）对抗性强。网络安全领域的诞生与发展是网络中对抗行为的结果。当越来越多的人涌入网络空间时，网络空间受到的攻击也呈指数增长。相较于人工智能在其他领域的应用，网络安全领域的人工智能的根本目的在于帮助使用者在对抗中取得优势：众多研究者的研究目的在于提高安全性，而攻击者们希望突破安全防护。可以说，网络安全领域的人工智能由于领域的特性，在表现上呈现出了远超其他领域的对抗性。

２　人工智能与关键信息基础设施安全

威胁分析关键信息基础设施安全一直是世界各国政府网络安全工作关注的焦点。美国作为网络技术的发源地，联邦政府高度重视信息化建设工作。早在 1996 年 7 月 15 日就发布第 13010 号行政命令《关键基础设施保护》，并于次年对关键信息基础设施进行定义。1996 年，中国开始实行的网络和信息系统等级保护制度也可以被认为是一种具有中国特色的关键信息基础设施保护制度；2021 年 9 月 1 日起施行的《关键信息基础设施安全保护条例》从法规上进一步完善了中国关键信息基础设施安全防护体系。关键信息基础设施安全防护的具体制度和措施在不同国家存在差别，但从全球主要国家的相关举措上也可以看到，当前全球关键信息基础设施安全存在着安全组织制度建设强于技术体系、基础组件供应链高度同质化、容易成为网络攻击目标等共同点。

（1）安全组织制度建设强于技术体系。由于关键信息基础设施涵盖种类多，部署地域分散等特点，建立统一的关键信息基础设施防护体系存在技术上的难度，很少有国家形成系统性的关键信息基础设施安全防护技术体系。更多国家是将关键信息基础设施运营者组织起来形成制度化的威胁情报共享机制、事件响应协同机制，如日本的网络安全信息共享、脱欧以来的英国网络安全新体制等都是在组织和制度角度提高关键信息基础设施的安全水平 ，像是美国爱因斯坦工程那样覆盖全国关键信息基础设施的安全技术体系还是少数。

（2）基础组件供应链高度同质化。关键信息基础设施大多结构复杂，但在全球关键信息基础设施建设过程中可供选择的软件却高度同质化。特别是自 Web2.0 时代以来，越来越多的信息系统采用 B/S 架构，关键信息基础设施采用的开源组件高度同质。2021 年末爆发的 Apache Log4j 远程代码执行漏洞以及 2014 的 Heartbleed漏洞在全网范围内造成了重大影响，大量关键信息基础设施在漏洞爆发期安全承压，甚至产生了应急人员不足的情况。关键信息基础设施基础组件供应链高度同质化的情况可见一斑。

（3）容易成为网络攻击目标。从近年来的重要网络安全事件来看，针对关键信息基础设施的攻击数量急剧增长。一方面，关键信息基础设施承载国民经济正常运行，一旦被攻击成功往往能让攻击者快速达到金钱、政治等方面的攻击目的。另一方面，随着网络在社会中的渗透，特别是物联网、工业互联网的发展使得大量设备接入网络空间，攻击者能够访问到关键信息基础设施的机会也越来越多。收益预期和攻击敞口的变化使得关键信息基础设施越来越容易成为网络攻击的目标。

当前网络空间人工智能化的网络攻防趋势已经形成，关键信息基础设施安全进一步受到全面挑战 。关键信息基础设施长期面对有国家背景的 APT 组织、随时爆发的高等级脆弱性以及 APT 水平的勒索软件等威胁，人工智能在网络安全领域的应用又加速了传统网络安全威胁的进化。结合全球关键信息基础设施安全的共同点，可以认为全球关键信息基础设施面临攻击模式自动演化、攻击手段自动化以及攻击者分工专业化等安全挑战。

2.1　攻击模式自动演化挑战

传统关键信息基础设施安全主要是从边界防护的角度对整体防护体系进行设计，从理念上来看缺少对抗性。现有渗透测试方法中通过构造包含大量无效数据的请求包来绕过防火墙正是防护体系缺乏对抗性的表现。在人工智能的背景下，攻击者将通过人工智能快速提高对抗的次数并进行分析，实现攻击模式的自动演化。现在已经有攻击者尝试通过生成对抗网络（Generative Adversarial Networks，GAN）来模拟关键信息基础设施防护体系的威胁检测系统，从而让自己的恶意代码能够绕过防护体系。类似的情况也发生在恶意文件检测的绕过上。攻击模式自动演化是人工智能给关键信息基础设施带来的最为严重的挑战，长期来看将使关键信息基础设施的安全防护体系的建设理念发生重大转变。

2.2　攻击手段自动化挑战

随着人工智能应用门槛的进一步降低，越来越多的攻击者开始通过人工智能技术开发自动化的攻击手段或为原有的攻击手段进行智能化升级。这一点在勒索软件即服务（Ransomware as-a-Service，RaaS）和组织僵尸网络上体现得尤为明显。越来越多的勒索软件和僵尸病毒通过预先设定的机器人（bot）程序在网络内自动搜索并感染设备，从而快速扩大感染规模。攻击者只需将恶意病毒载荷进行一次有效投放，就可以自动化实现阶段性的攻击目的。也有攻击者为各个攻击节点通过人工智能增强其自主性，实现去中心化的自动攻击。总的来看，攻击手段自动化一方面加快了攻击成功后扩大影响的速度，另一方面延后了攻击暴露的时间节点，对关键信息基础设施安全响应的速度提出了更高要求。

2.3　攻击者分工专业化挑战

早年的网络攻击者进行网络攻击的目的较为多样，以炫技、出名为主要目的的攻击者并不在少数，往往一个人承担了网络攻击的全部环节。随着数字经济的发展，越来越多的攻击者开始专注于非法利润的获取，对于攻击工具更高的要求以及突破越来越多的安全防护策略使攻击者逐渐产生分工。人工智能在网络安全领域技术服务化的特点进一步加速了这一进程。网络攻击者中的研发人员可以更快地将更高级的工具封装好提供给购买供给服务的人，关键信息基础设施安全则受限于产业中人才的缺乏等因素，无法实现同样速度的防护技术更新。

３　关键信息基础设施应对挑战建议

有效应对人工智能对全球关键信息基础设施安全形成的挑战，需要从系统角度全面考虑。现有研究大多集中于技术层面，对人工智能带来的全方位挑战的重视度不够。通过上文的分析，本研究认为全球关键信息基础设施应对人工智能带来的安全挑战需要从构建智能化防护体系、缩短发起响应的时间以及培养 AI+ 网络安全人才等方面做起。

3.1　构建智能化防护体系

建设关键信息基础设施安全防护体系一直是保障关键信息基础设施安全的重要举措。面对自动演化的攻击模式，需要对关键信息基础设施的安全防护体系进行全面的智能化改造。

除当前已经广泛采用的基于人工智能的流量检测外，关键信息基础设施安全防护体系智能化还可以从以下几个方面进行。一是加强人工智能在辅助决策方面的应用，将有限的安全运营人员从快速增长的大量攻击中解放出来，专注于处理真实、高等级的攻击，提高防护效率。二是采用多元化的威胁分析算法及模型，形成现有防护体系的联动，如通过建设智能化的网络安全运营中心，为低智能的安全设备赋能，整体提升防护体系的智能化水平。三是主动采取生成对抗网络、遗传算法等人工智能技术对现有防护体系进行测试，从而智能化地补充防护体系的安全策略。

3.2　缩短发起响应的时间

在网络安全领域，包以德循环（OODA）是由 Observation（观察）、Orientation（判断）、Decision（决策）、Action（执行）4 个单词的首字母组合得名，常用于描述对从发现到响应网络攻击的过程。应对自动化的网络安全攻击手段，关键是缩短 OODA 中各环节的时间。当前较为有效的方法是大量部署基于云端数据的终端检测 与 响 应（Endpoint Detection and Response，EDR）系统并提高威胁情报的作用。

一方面，EDR 系统作用于网络攻击的控制、利用阶段效果显著，能够帮助关键信息基础设施的安全运营者及时发现存在异常行为的终端，加快发现已经成功的网络安全攻击的速度。另一方面，准确迅速的威胁情报能够帮助关键信息基础设施安全防护体系及时启动并完成有关研判，能够大幅度提高安全策略的修改速度，缩短安全运营人员针对特定网络安全攻击发起响应的时间。

3.3　培养 AI+ 网络安全人才

关键信息基础设施安全离不开专业人才的支持。面对越来越多的封装好的人工智能攻击工具，需要有更多具有人工智能学科背景的研究人员进行人工智能攻防技术的研究，从而研发出更有效的网络安全防护产品。关键信息基础设施运营者应该积极参与 AI+ 网络安全人才的培养，提高人才数量和质量，加快网络安全相关人工智能技术的研发和应用，赋能关键信息基础设施安全防护。特别是关键信息基础设施每天面临着数量众多的网络攻击，运营者掌握着大量宝贵的真实攻击数据，通过和研究院所、企业等人才培养实体的合作，这些攻击数据可以在培养 AI+ 网络安全人才的过程中发真实场景构建、威胁数据建模等作用，提高人才培养效率。

4　结　语

关键信息基础设施对于全球各国的社会经济稳定与发展都有着重要意义，关键信息基础设施安全也因此受到越来越多的重视。人工智能对于当前全球关键信息基础设施形成的挑战是普遍且深刻的。面对人工智能带来的攻击模式自动演化、攻击手段自动化、攻击者分工专业化等挑战，需要加快构建智能化防护体系、缩短发起响应的时间并积极参与培养 AI+ 网络安全人才，持续保障关键信息基础设施安全。

格式：宋钊 , 孙骞 . 人工智能背景下全球关键信息基础设施安全挑战与对策 [J]. 信息安全与通信保密 ,2022(6):94-101.

作者简介 >>>

宋　钊，男，硕士，助理工程师，主要研究方向为网络安全、应急管理；

孙　骞，男，博士，高级工程师，主要研究方向为网络安全。

选自《信息安全与通信保密》2022年第６期