在2026世界人工智能大会全球工业人工智能国际合作论坛上，联合国工业发展组织、上海人工智能研究院、清华大学人工智能国际治理研究院、人工智能治理向善实验室、英国标准协会等机构联合发布《工业人工智能：治理框架》白皮书，为工业人工智能负责任应用提供系统参考。这份白皮书的发布汇聚了全球顶尖研究机构和学者力量。其中，国务院参事、清华大学人工智能国际治理研究院院长薛澜，联合国人工智能独立科学小组成员、上海人工智能研究院院长宋海涛，清华大学人工智能国际治理研究院副院长梁正等中方专家的参与
01 引言
人工智能（AI）在工厂中的应用，已不止于单个环节的效率提升。从设备故障预测、产品缺陷识别，到生产流程、能源使用和物流安排，它正越来越多地参与直接影响生产运行的判断。这既为企业提高生产率、改善质量、节约资源创造了机会，也带来一个具体的问题：当越来越多生产决策交给AI，如何确保整个系统始终处于有效监督之下？
这一问题的复杂性，源于工业生产中紧密的物理与组织联系。一处判断失误可能向后续工序传导，一个系统的性能变化也可能影响其他设备；损失还可能越过企业边界，波及供应链、劳动者和周边社区。与此同时，各国制度与能力参差不齐，企业也未必拥有充足的测试、审计和管理资源。
白皮书正是立足这些现实问题，主张工业AI治理需要从竞争思维转向共同责任。工业AI把生产者、劳动者和周边社区绑定为一个共同承受风险的共同体，因此安全性、可靠性和可控性不只是单个企业的合规成本，而是具有公共产品属性的共同保障对象。白皮书以“可控性”为核心，试图说明安全可靠的部署需要哪些条件、各方应承担什么责任，以及国际合作能提供哪些支持。对正在推动产业智能化的政府和企业而言，这提供了一种理解治理与应用关系的思路：治理不是应用的对立面，而是技术扩大应用、赢得信任的重要条件。
02 从三种风险模式解析治理需求
工业AI治理需要回应的，不只是单个环节的效率问题，更是潜在的系统性风险。白皮书将风险归纳为三种模式：（1）级联风险（Cascading Risk），指错误沿紧密连接的生产网络扩散。现代生产网络高度耦合，因此某一环节的算法错误会在被处理之前传播到下一环节，有缺陷的产出会通过一道道质量检查而不被发现。由于这些错误以机器速度在物理基础设施中传播，它们能够跑赢本应用于遏制它们的检查周期；（2）隐蔽风险（Stealth Risk），主要源于不透明性。一些工业人工智能模型依赖黑箱决策逻辑，其决策过程不可观测。因此，渐进漂移或性能退化可能在没有可见预警的情况下不断累积，直到出现物理后果；（3）复合风险（Compound Risk），源于人工智能部署密度的不断提高。随着企业把人工智能扩展到过程控制、预测性维护、能源管理和物流等领域，且这些系统由不同供应商提供、带有彼此不同的设计假设，它们之间交互的数量与复杂性都会增加。这些交互可能以非线性方式放大风险，并产生任何单一系统自身都不会表现出的行为。
三种风险共同指向一个结论：工业AI治理不能停留在算法层。可控性、安全性和可靠性并不存在于孤立模型中，而取决于模型与传感器、执行器、操作人员、组织流程和基础设施之间的交互。单个组件分别通过测试，并不意味着组合之后仍然安全；损害也往往不是来自某一次模型输出，而是来自模型接入生产系统之后的行为。因此，白皮书将工业AI置于关键基础设施治理的范畴，强调持续监督、人工接管、共同责任，以及在损害跨越企业边界时的清晰归责。
03 以可控性为核心的六项治理原则
针对上述风险，白皮书提出“以可控性为中心的治理框架”（CCGF），将安全性、可靠性、透明度、可问责性、包容性和可持续性作为六项核心原则。这六项原则共同回答了一个问题：当AI深入生产运行，人和制度如何保持对系统的有效掌控？这种掌控既需要技术上的干预手段，也需要持续的运行证据、清晰的责任安排和相应的组织能力。
首先，安全性与可靠性，要求把对系统的判断延伸到整个运行过程。安全性强调识别危险、评估影响，并将残余风险降至最低合理可行水平；可靠性则关注系统在数据、设备和环境变化后，能否持续满足要求。对于工业应用，这意味着通过部署前的测试只是起点，后续还需要持续监控、报告退化并及时重新评估。治理由此成为伴随生产运行的日常工作。
其次，透明度与可问责性，使监督能够落实为行动。白皮书所说的透明度，涵盖技术文档、数据来源、运行日志和人工监督记录。它的实际价值，是让相关主体能够发现问题、追溯原因。可问责性进一步明确开发者、集成商、部署者和运营者的责任。在多方参与的生产系统中，记录再完整，也需要有人依据记录采取措施，避免复杂的技术分工成为责任推诿的空间。
最后，包容性与可持续性，则把治理放回更广泛的产业发展背景。如果中小企业和发展中国家缺乏测试、审计与培训资源，共同规则就难以转化为共同能力。因此，包容性要求分级合规路径和技术援助，降低参与障碍。可持续性则要求在设计阶段考虑能源消耗、电子废弃物、劳动替代和技能退化，使效率提升的收益与长期环境、社会成本一并进入决策。
04 “全球-国家-产业”三层治理架构
基于六项原则，白皮书提出了全球、国家以及产业与企业三个层级的嵌套治理架构，将共同责任转化为不同层级的制度分工。
全球层的重点，是为跨境合作建立共同参照。工业AI可能在一个国家开发、在另一个国家部署，其风险又沿供应链影响更多地区。因此，各国需要在基本标准、评估方法和信息交换上加强协调，并共同支持测试平台、事故数据库等公共产品。这样的合作有助于减少规则差异造成的治理空白，也为评估结果互认创造条件。
国家层的重点，是把共同原则转化为可执行的制度要求。白皮书强调通过立法、监管、合格评定和市场监督落实治理，其中，风险分级决定不同应用应承担多大程度的义务。库存管理与安全关键控制的失效后果不同，监管强度也应有所区别。各国可以结合既有工业安全制度和本国产业条件确定实施方式，并通过监管沙盒，在受控部署中积累证据。这使治理既有共同方向，也保留适应国情和技术变化的空间。
产业与企业层的重点，是让治理进入生产现场。行业准则需要将共同原则细化为适合不同场景的性能基准、监督要求和事件处理程序。企业则应指定AI系统责任人，建立跨职能协调、事件响应和内部审计机制，并通过供应商管理与合同安排明确供应链责任。只有进入日常操作和管理流程，原则才能成为实际约束。
总体而言，这份白皮书把工业AI治理同生产现场的真实问题、企业的实施能力和国际合作的条件联系起来，为各方提供了可操作的共同参照。其实效将在后续实践中逐步显现，并随着更多应用不断丰富。上海人工智能研究院、清华大学人工智能国际治理研究院等机构的参与，也为后续国际对话、标准协同和能力建设提供了合作基础。框架能否发挥作用，最终要看它能否帮助更多企业安全地使用AI，并把生产中的经验持续转化为治理的改进。
（扫描以下二维码或点击阅读原文获取白皮书）
END
