近日，美国网络安全与基础设施安全局联合美国联邦调查局、加拿大网络安全中心、德国联邦信息安全局等机构，共同编制了《AI在运营技术中安全集成的原则》（Principles for the Secure Integration of Artificial Intelligence in Operational Technology）指南。指南旨在帮助关键基础设施所有者和运营商平衡AI技术红利与安全风险，其核心框架围绕四大原则展开，构建了从认知到实践的完整安全体系。
原则一，要“搞懂”AI：理解人工智能融入运营技术（OT）环境的特有风险与潜在影响，通过专项培训提升人员风险意识，并构建涵盖设计、开发、部署及运维全周期的安全人工智能开发生命周期管理体系。理解AI集成到OT环境中的独特风险和潜在影响，“教育”员工了解这些风险的重要性。
原则二，审慎评估AI应用场景：基于运营技术领域实际需求，严谨评估人工智能应用的具体业务场景，统筹管理数据安全风险，明确供应商责任，并系统应对人工智能集成所面临的近期与长期挑战。
原则三，构建AI治理与保障体系：建立健全治理机制，将人工智能纳入现有安全框架，实施模型持续测试与评估，并确保符合相关法规与合规性要求。
原则四，嵌入AI运行监督与安全机制：在人工智能及其赋能的OT系统中全面融入安全与防护措施，建立有效监督机制以确保系统安全稳定运行，提升运营透明度，并将人工智能纳入事件响应流程。
原则一，要“搞懂”AI
一是系统辨识人工智能在OT环境中的特有风险。AI与运营技术融合可能会引入多重新型风险，主要包括针对人工智能数据、模型及部署软件的网络安全攻击风险；因训练数据质量缺陷导致的系统性能下降与决策失误风险；模型随运行环境变化发生漂移而引发的输出准确性衰减风险；以及因算法决策过程不透明所造成的故障诊断与根源分析困难等。同时，需警惕操作人员因过度依赖自动化系统而产生的技能退化的人为因素风险。这些风险相互关联，可能引发系统可用性降低、运营安全事故乃至重大经济损失等连锁后果。
二是制定安全的人工智能开发周期管理体系。必须在人工智能系统的全生命周期中嵌入安全管理，覆盖设计、采购/开发、部署、运营维护四个关键阶段，并明确所有者、运营商、供应商及集成商在各环节的安全责任边界。安全设计阶段需在架构初期即采用安全协议与有效的数据保护机制。安全采购或开发阶段应优先选择遵循安全开发标准并提供相应证明的供应商。安全部署阶段要求通过网络隔离、访问控制等手段维持系统安全态势，并完成充分验证以确保其按预期运行。安全运营与维护阶段则须建立持续的漏洞监测、补丁管理与更新机制。此外，组织应基于安全性、可控性与成本等维度，审慎评估外购、自研或定制改造等不同引入模式，优先采纳贯彻“安全设计”理念的解决方案。
三是实施面向运营技术人员的人工智能素养提升计划。人工智能的集成可能加剧人员对自动化系统的依赖，导致在系统故障时关键手动操作能力的缺失。同时，运营技术人员存在误读人工智能输出或缺乏相关故障处置专业知识的风险。为此，关键基础设施运营者需开展针对性能力建设，通过人工智能基础原理、OT场景威胁建模及输出验证方法等培训，系统提升人员的技术理解与风险应对能力。此外，应制定并执行清晰的标准化作业程序，明确涉及人工智能系统的日常操作、人工干预及应急响应职责。
原则二，审慎评估AI应用场景
关键基础设施运营者必须明确，人工智能并非通用解决方案，其引入应严格基于OT领域的真实需求与约束条件，开展可行性评估。在启动集成前，应首先审视现有技术能力是否足以支撑业务目标，并客观对比人工智能方案与传统技术路径在安全性、性能表现、系统复杂度、总体成本及对现有安全态势的影响等方面的差异。
辨识因引入人工智能而可能扩大的攻击面，主要包括新增的软硬件组件、额外的接口以及随之而来的安全防护负荷。
数据安全是人工智能在OT场景中可靠运行的基石，必须建立覆盖数据全生命周期的管理机制，明确训练数据的存储边界与访问权限，并通过合同条款严格约束供应商对数据的使用行为，以防范因数据跨境流动引发的数据主权与敏感信息泄漏风险。
针对OT环境中因网络隔离、专用协议及设备异构性造成的数据壁垒，需依托领域知识构建高质量数据集，并建立贯穿采集、传输、存储与使用各环节的数据完整性保障体系。
运营者应充分认识供应商在人工智能集成中的关键作用，其技术透明度与安全保障能力直接影响融合成效。应在采购协议中明确要求供应商提供详尽的人工智能功能说明、完整的软件物料清单及供应链安全信息，并建立包括功能启停控制与漏洞及时通报在内的协同管理机制。对于依赖外部网络连接的设备，应优先选用支持本地化部署或离线运行的方案，以降低外部依赖风险。
此外，需要前瞻性识别人工智能与既有基础设施在系统兼容性、实时性、资源分配及云端协同等方面的集成挑战，通过测试环境充分验证、采用适宜的数据架构设计以及保留关键环节的人工决策权限等措施，有效管控集成复杂度与潜在隐患。
原则三，构建AI治理与保障体系
健全的治理体系是确保人工智能在OT环境中安全、可靠运行的制度基石。为此，需建立跨部门的协同治理机制，涵盖战略决策层、OT/IT技术专家、网络安全团队及核心供应商，明确人工智能全生命周期管理中的权责划分，并将其相关风险纳入组织统一的风险管理框架。
人工智能资产须接受与关键基础设施同等级别的常态化安全审计与风险评估。在应用加密、访问控制等基础防护措施的同时，应针对其技术特性实施增强策略，包括监测专用端点的数据流、利用数据防泄漏技术审查输入输出。
同时，面对快速演进的技术与监管环境，合规性管理需具备前瞻性与动态性。运营者应主动追踪ETSI等标准组织发布的AI安全系列规范，结合行业强制性认证要求，构建持续适应的合规体系。同时，必须建立完善的审计追溯机制，以应对人工智能决策可解释性挑战，确保其行为可监控、可审计。此外，必须为人工智能系统设定明确的安全性能阈值，一旦输出偏离预设范围，应能自动、无缝地切换至备用控制模式，以保障关键运营的连续性。
原则四：嵌入AI监督与安全机制
为确保人工智能赋能的OT系统安全可靠，必须构建贯穿系统全生命周期的监督机制和故障安全设计。关键基础设施的所有者与运营商需通过全面清点人工智能组件及其依赖关系，奠定系统化监督的基础。
监督机制的核心在于建立人机协同的决策体系。必须保留明确的人工介入通道，确保操作人员能够理解、验证并在必要时否决人工智能的决策。
同时，应实施持续的行为监测与异常分析，通过定义安全基线、监控模型性能漂移、部署审计追踪与可视化工具，实现对人工智能行为全流程的可观测性和可追溯性。定期开展对抗性评估以检验系统韧性，并将网络分段、数据出口控制等传统安全措施延伸至人工智能端点。
此外，还需建立容错机制，确保人工智能系统在故障时能平稳运行，避免对关键业务造成影响。将人工智能系统的新故障状态纳入现有的功能安全与事故响应流程。
结语
人工智能与运营技术的融合，在推动关键基础设施领域效能跃升与能力革新的同时，亦显著提升了其安全与韧性管理的复杂性。指南所确立的“深化认知、审慎评估、系统治理、嵌入监督”四大核心原则，共同构建了一个从风险辨识到闭环管理的完整实践框架。
全文下载链接：https://www.cisa.gov/sites/default/files/2025-12/joint-guidance-principles-for-the-secure-integration-of-artificial-intelligence-in-operational-technology-508c.pdf
关于赛博研究院
上海赛博网络安全产业创新研究院（简称赛博研究院），是上海市级民办非企业机构，成立至今，赛博研究院秉持战略、管理和技术的综合服务模式、致力于成为面向数字经济时代的战略科技智库、服务数据要素市场的专业咨询机构和汇聚数智安全技术的协同创新平台。
赛博研究院立足上海服务全国，是包括上海市委网信办、上海市通管局、上海市经信委、上海市数据局等单位的专业支撑机构，同时承担上海人工智能产业安全专家委员会秘书长单位、上海“浦江护航”数据安全工作委员会秘书长单位、上海数据安全协同创新实验室发起单位等重要功能，并组织“浦江护航”数据安全上海论坛、世界人工智能大会安全高端对话等一系列重要专业会议。
欢迎联络咨询：
邮件：public@sicsi.org.cn；
电话：021-61432693。
