

美国学者运用系统性方法分析人工智能对网络攻防的影响

三正科技公司

2023-11-02

导读：在网络防御方面，人工智能可以改善NIST网络安全框架提出的五个核心功能，包括识别、保护、检测、响应和恢复。

本文字数：3886字

阅读时间：12分钟

编者按

美国哥伦比亚大学国际与公共事务学院高级研究学者贾森·希利撰文，根据美国国家标准与技术研究所（NIST）的网络安全框架和洛克希德·马丁公司的“网络杀伤链”对人工智能对网络防御和网络攻击的促进作用进行了全面分析。

在网络防御方面，人工智能可以改善NIST网络安全框架提出的五个核心功能，包括识别、保护、检测、响应和恢复。在识别方面，可以快速自动发现机构的设备和软件，更轻松地绘制机构的供应链及其可能的漏洞和故障点，快速、大规模地识别软件漏洞；在保护方面，可以减少对训练有素的网络防御者的需求，降低网络防御者所需的技能水平，自动修补软件和相关依赖项；在检测方面，可以通过大规模、快速地检查数据快速发现企图入侵的行为，几乎不会出现误报警报；在响应方面，可以通过快速扫描日志和其他行为改进对对手活动的跟踪，快速自动驱逐攻击者，通过加快逆向工程和反混淆来了解恶意软件以更快地挫败和溯源攻击，大幅减少人工跟踪的误报警报；在恢复方面，可以自动重建遭渗透的基础设施并以最短的停机时间恢复丢失的数据。

在网络攻击方面，人工智能可以促进洛克希德·马丁公司“入侵杀伤链”提出的七个攻击阶段，包括侦察、武器化、投送、利用、安装、命令与控制以及针对目标的行动。在侦察阶段，可以自动查找、购买和使用被泄露和被盗的凭证，自动排序以查找具有特定漏洞的所有目标或有关确切目标的信息，自动识别可能影响主要目标的供应链或其他第三方关系，加快访问代理识别和聚合被盗凭证的规模和速度；在武器化阶段，可以快速、大规模地自动发现软件漏洞并编写概念验证漏洞，通过大幅改善混淆来阻碍逆向工程和溯源，自动编写高质量网络钓鱼电子邮件，通过创建深度造假音视频来实施欺骗；在投送、利用和安装三个阶段，可以与许多机构的防御者进行实际的并行交互以诱使其安装恶意软件或执行攻击者的命令，生成虚假攻击流量以分散防御者的注意力；在命令与控制阶段，可以通过自动权限升级和横向移动实现更快的突破，自动编排大量遭渗透的机器，植入无需工人介入即可独立行动的恶意软件；在针对目标的行动阶段，可以以隐蔽模式自动秘密泄露数据，自动处理以识别、转换和汇总满足指定收集要求的数据。

文章称，人工智能既可以成为网络防御的“力量倍增器”，也可以提升攻击者长期以来在网络空间中拥有的系统性优势；为了使得防御方赢得人工智能网络安全军备竞赛，必须不断更新投资并有针对性地开展投资，从而领先于威胁行为者对人工智能的创新使用；很难评估人工智能会在网络攻击还是网络防御中提供更多助益，但通用技术历来对攻击更有利，因为防御者较为分散，而攻击者则较为集中，后者可以更敏捷地整合创新；人工智能对网络防御的最大帮助可能是减少所需的网络防御者的数量和技能水平，但随着越来越多的机构将其计算和网络任务转移到云端，人工智能的规模可能会彻底改变网络防御；NIST框架和洛克希德·马丁杀伤链更加结构化的方法可以帮助技术专家和政策制定者确定投资目标，并确保人工智能不会重蹈众多其他技术“攻防兼推”的覆辙，使人工智能军备竞赛的平衡向防御方倾斜。

奇安网情局编译有关情况，供读者参考。

人工智能对网络攻防的影响

为了使网络空间更具防御性，创新不仅必须加强防御，还必须为防御者提供相对于攻击者的持续优势。

人工智能有潜力改变防守者的游戏规则。正如德勤最近的《网络人工智能：真正的防御》报告所述，“人工智能可以成为力量倍增器，使安全团队不仅能够比网络攻击者的行动更快地做出反应，而且能够预测这些行动并提前采取行动”。

然而，如果我们换个角度来看，这一点也同样正确：人工智能可以使网络攻击者的行动速度快于防御者的反应速度。

即使是最好的防御进步也会很快被攻击者的更大飞跃所超越，而攻击者长期以来在网络空间中拥有系统性优势。正如安全专家丹·格尔在2014年所说，“无论是在检测、控制还是预防方面，我们都在创造个人最好成绩，但对手却一直在创造世界纪录”。最令人沮丧的是，许多有希望的防御措施——例如破解密码或扫描网络漏洞的“进攻性安全”——最终对攻击者的推动力超过了防御者。

为了让人工智能避免这种命运，防御者以及那些资助新研究和创新的人必须记住，人工智能并不是“一根能带来持久无懈可击的魔杖”。为了让防御者赢得人工智能网络安全军备竞赛，必须不断更新投资并有针对性地进行投资，以领先于威胁行为者自己对人工智能的创新使用。

很难评估人工智能会在进攻还是防御中提供更多帮助，因为每一方都是独一无二的。但可以使用两个广泛使用的框架来澄清这种“风马牛不相及”的比较。

美国国家标准与技术研究所（NIST）的网络安全框架可用于凸显人工智能帮助防御的多种方式，而洛克希德·马丁公司开发的网络杀伤链框架也可以为攻击者使用人工智能做同样的事情。

这种更加结构化的方法可以帮助技术专家和政策制定者确定投资目标，并确保人工智能不会重蹈许多其他技术的覆辙，即推动防御者但也会加剧进攻。

“

一、人工智能在国防方面的收益

美国国家标准与技术研究所（NIST）的框架是一个理想的架构，涵盖了人工智能可能帮助防御者的所有方式。表 1 虽然不是完整列表，但可作为介绍。

NIST框架功能	人工智能可能从根本上改善防御的方式
识别	快速自动发现机构的设备和软件更轻松地绘制机构的供应链及其可能的漏洞和故障点快速、大规模地识别软件漏洞
保护	减少对训练有素的网络防御者的需求降低网络防御者所需的技能水平自动修补软件和相关依赖项
检测	通过大规模、快速地检查数据，快速发现企图入侵的行为，几乎不会出现误报警报
响应	通过快速扫描日志和其他行为，大大改进对对手活动的跟踪无论在何处发现攻击者，都会快速自动驱逐更快的逆向工程和反混淆，以了解恶意软件如何工作以更快地挫败和归因用于人工跟踪的误报警报大幅减少
恢复	自动重建遭渗透的基础设施并以最短的停机时间恢复丢失的数据

表 1：使用 NIST 框架对防御者的人工智能优势进行分类

尽管这只是一个子集，但仍然有很大的收获，特别是如果人工智能可以大幅减少高技能防御者的数量。不幸的是，大多数其他收益与攻击者的相应收益直接匹配。

“

二、人工智能在进攻中的收益

虽然NIST框架是正确的防御工具，但洛克希德·马丁公司的网络杀伤链是一个更好的框架，用于评估人工智能如何促进军备竞赛的攻击方，这一想法是由美国计算机科学家凯瑟琳·费舍尔早些时候提出的。（MITRE ATT&CK是另一个以犯罪为主题的框架，可能更好，但比一篇短文中可以轻松检查的要复杂得多。）

网络杀伤链框架阶段	人工智能可能从根本上改善进攻的方式
侦察	自动查找、购买和使用被泄露和被盗的凭证自动排序以查找具有特定漏洞（广泛）的所有目标或有关确切目标的信息（深层；例如，详细说明硬编码密码的晦涩帖子）自动识别可能影响主要目标的供应链或其他第三方关系加快访问代理识别和聚合被盗凭证的规模和速度
武器化	快速、大规模地自动发现软件漏洞并编写概念验证漏洞大幅改善混淆，阻碍逆向工程和归因自动编写优质的网络钓鱼电子邮件，例如通过阅读高管的大量信件并模仿他们的风格创建深度造假音频和视频来冒充高级管理人员以欺骗员工
投送、利用和安装	与许多机构的防御者进行实际的并行交互，说服他们安装恶意软件或执行攻击者的命令生成虚假攻击流量以分散防御者的注意力
命令与控制	更快的突破：自动权限升级和横向移动自动编排大量遭渗透的机器植入的恶意软件能够独立行动，无需与人工处理人员沟通以获取指示
针对目标的行动	以不易察觉的模式自动秘密泄露数据自动处理以识别、转换和汇总满足指定收集要求的数据

表 2：使用网络杀伤链框架对攻击者的人工智能优势进行分类

同样，尽管这可能只是人工智能协助犯罪的众多方式中的一个子集，但它展示了它可以带来的优势，特别是当这些类别组合在一起时。

“

三、分析和后续步骤

不幸的是，通用技术历来对攻击有利，因为防御者分散在组织内部和组织间，而攻击者则集中。为了充分发挥其作用，防御性创新通常需要在数千个组织（有时是数十亿人）中实施，而目标明确的攻击者群体可以更敏捷地整合进攻性创新。

这就是为什么人工智能对防御的最大帮助可能是减少所需的网络防御者的数量和他们所需的技能水平的原因之一。

仅美国就需要数十万额外的网络安全人员，而这些职位不太可能被填补。被雇佣的人需要花费数年时间来培养对抗高级攻击者所需的技能。此外，人类还要努力应对复杂而分散的任务，例如大规模防御。

随着越来越多的机构将其计算和网络任务转移到云端，主要服务提供商将处于有利地位，可以集中人工智能驱动的防御。人工智能的规模可能会彻底改变防御，不仅对少数能买得起先进工具的人来说，而且对互联网上的每个人来说都是如此。

未来不是写在石头上的，而是写在代码里的。现在，明智的政策和投资可以发挥重大作用，使人工智能军备竞赛的平衡向防御倾斜。例如，负责开发军用技术的美国国防高级研究计划局（DARPA）正在进行变革性投资，显然是从经验中吸取了教训。

2016年，DARPA主办了“网络挑战赛”（Cyber Grand Challenge）的最后一轮比赛，旨在创建“有史以来开发的一些最复杂的自动漏洞搜寻系统”。但这些计算机既可以进攻也可以防守。为了获胜，他们“需要利用对手软件中的漏洞”并对其进行攻击。自主进攻系统可能是军队的一项自然投资，但不幸的是会增强进攻的优势。

DARPA的新实验“人工智能网络挑战赛”（AI Cyber Challenge）纯粹是防御性的（没有进攻性的“夺旗”成分）。“利用人工智能的进步来开发能够自动保护日常生活关键代码安全的系统”。这项 DARPA 挑战赛奖金近 2000 万美元，并得到人工智能领先公司（Anthropic、Google、Microsoft和OpenAI）的支持，可能会彻底改变软件安全性。

这两个挑战赛完美地概括了动态：技术专家和政策制定者需要进行投资，以便防御性人工智能能够比进攻性人工智能更快地发现漏洞、修补漏洞及其相关依赖项，而不是发现、武器化和利用这些漏洞。

预计2021年至2025年间，全球用于网络安全的人工智能支出将增加190亿美元，最终让防御方获得相对于进攻方优势的机会看起来非常光明。

作者介绍

贾森·希利，美国哥伦比亚大学国际与公共事务学院高级研究学者。1998 年帮助创建了世界上首个网络司令部——美国计算机网络防御联合特遣部队，后来曾担任白宫网络政策主管。

往期推荐

深入黑客的内心：显示黑客采用新技术的速度和效率

CISA和NSA分享有关保护 CI/CD 环境安全的指南

深度解读：下一代身份安全和IAM技术趋势

IT安全工具不适用于OT的5个原因

在看点这里