美东时间9月8日,美国国家安全局、网络安全与基础设施安全局、联邦调查局三家机构联合发布一份网络安全公告,抛出所谓中国AI企业实施“工业规模知识蒸馏”的指控,同时梳理了所谓攻击者的战术技术流程,并向美国AI行业给出检测、处置、情报共享等防御建议。

公告发布后,随即引发中美双方围绕AI知识蒸馏技术定性、商业竞争边界、国家安全概念适用范围等问题的争议。
从公告内容来看,美方将知识蒸馏这项全行业通用技术刻意划分为“合法研究用途”与所谓“恶意工业级蒸馏”。公告称,自2024年末起,多家中国头部AI企业发起海量请求,从Claude、GPT、Gemini、Grok等美国前沿大模型接口提取大量Token数据,用于训练自有大模型;美方声称,对这些中国企业而言,知识蒸馏并非补充模型能力的辅助手段,而是其模型研发的核心路径。
按照美方公告的描述,相关中国企业借助灰色代理渠道绕开地域限制,通过批量购买高级订阅、轮换多账号、清洗元数据、注入提示词等手段规避平台检测,获取美国大模型在思维链推理、代码开发、智能代理、行业专项优化等方面的专有能力,以此缩短自研周期,压低模型训练成本。
美方将上述行为归入MITRE ATLAS对抗机器学习威胁框架,声称其涵盖了这类威胁活动的全生命周期:资源准备阶段主要完成代理配置、账号池搭建与预算分配体系建设;访问阶段利用批量账号发起高度同质化的大规模查询;执行逃逸阶段依靠提示词注入、越狱等手段获取模型内部推理信息;探测阶段持续跟踪美国新发布的模型版本,快速调整攻击目标;采集阶段定向抽取特定领域的输出内容,生成合成训练数据集;最终将采集到的数据用于训练本土大模型,完成能力复刻。
除了该框架已收录的攻击手段,公告还总结出四类新型手法:绕过地区访问限制、集中式请求路由、自动清洗请求元数据、针对API调用优化配额与成本,同时列出了账号多IP共用、全天候不间断调用、新账号立刻跑满流量上限等可供企业识别的异常行为特征。
公告从企业实操、技术手段、行业协同等维度给出了对应防御方案:一是开展行为监测,重点关注异常账号与订阅用量的异常配比;二是对高嫌疑请求的输出内容做出微调,例如降低推理深度、加入差异化噪声,在不触发明显告警的前提下削弱蒸馏所得数据的训练价值,同时不向攻击者告知模型已做出调整;三是推动跨机构情报共享,由云厂商、API聚合平台、模型企业互通IP、行为特征等威胁指标,识别分散在多个平台的协同攻击行为。
针对美方这份联合公告,中方做出明确回应:不认可美方提出的相关指控,认为相关说法缺乏事实与法律依据,批评美方将正常的技术、商业竞争问题政治化。
知识蒸馏是全球AI行业普遍采用的中性技术,美国企业同样会运用该技术开展模型研发,不存在某一方单独“恶意使用”的情况。蒸馏技术本身能够提升模型学习效率,对AI产业整体发展具有正向价值。中方开源的大模型也向全球包括美国企业开放,而美方却将这项行业通行技术抹黑为恶意攻击类行为,属于典型的双重标准。
同时,美国安全机构直接下场发布针对他国商业企业的指控公告,是将个别企业的商业利益与国家安全概念绑定,动用国家力量介入市场竞争,以此维护自身在算力、大模型领域的垄断地位。部分美国AI企业在用户协议中设置严苛的地域限制,这类商业条款本身就存在争议,而美方公告在一定程度上为此类条款提供了官方背书。
整体来看,此次事件的分歧并不单单局限于蒸馏技术本身的优劣,而是集中在商业、规则、安全边界三个现实层面。
知识蒸馏本就是推动大模型迭代成熟的常规技术;但在商业场景中,大规模调用竞品公开API、批量采集输出结果训练自有大模型的行为,是否违反平台用户协议、是否构成不正当竞争,目前全球范围内尚未形成统一明确的法律规范与行业规则。美方采用的处理方式,是由国家安全机构发布公开威胁公告,直接将商业协议层面的纠纷上升到国家安全威胁层面,用安全框架为商业行为定性。
当前全球大模型行业仍处于高速迭代发展阶段,围绕接口调用、模型学习、数据抽取、开源与闭源活动边界的矛盾还将持续增多,如何区分正常技术研究、商业竞争行为与真正的网络威胁,将成为全球AI治理需要长期面对的核心议题。
文章参考来源|NSA官网、互联网公开信息,不代表作者观点
赛博研究院简介
上海赛博网络安全产业创新研究院(简称赛博研究院),是上海市级民办非企业机构,成立至今,赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。
赛博研究院立足上海服务全国,是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构,同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能,并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。
欢迎联络咨询:
邮件:public@sicsi.org.cn;
电话:021-61432693。

