点击蓝字，关注我们
9月14日，国家网络安全宣传周在济南开幕，期间发布了《人工智能安全治理框架》3.0版本，同时公布了人工智能赋能网络安全应用测试结果、消费类网联摄像头安全标识备案产品等阶段性成果。此前，9月11日，工业和信息化部对“人工智能+软件”专项行动进行解读，将生成代码安全审查、新上线软件安全检测、开源许可合规等纳入企业能力建设要求。结合9月上旬大模型新品在智能体、实时语音、企业数据代理等领域的密集落地，可以清晰看到：人工智能产业的竞争焦点正从“参数规模与功能数量”转向“可测性、可审性与可落地性”。对于电商、客服、制造、医疗、金融等应用场景而言，人工智能治理已不再局限于技术部门的职责范围，而是上升为企业标准化体系建设中不可回避的关键议题。
《人工智能安全治理框架》3.0进一步细化了风险分类、技术应对与综合治理措施。监管方与应用方对训练数据合法性、生成内容真实性、智能体权限边界、责任划分等底层问题的关注度显著提升。2026年9月，最高人民法院发布涉人工智能纠纷审理意见，涉及AI幻觉侵权、训练数据合规、AIGC版权及人格权保护等内容，表明人工智能部署已超越单纯工具采购的范畴，须将安全要求转化为制度规范、测试用例及供应商准入条件。若企业仅将人工智能视为插件而忽视系统性安全建设，可能面临合规返工、客户审计不通过及舆情危机等多重成本。
与此同时，工信部“人工智能+软件”行动方案明确要求企业建立生成代码安全审查机制，对重点行业新上线软件开展安全检测，并完善高质量数据集与开源合规指引。这意味着人工智能生成的代码、自动化脚本、智能体执行的各类操作均需纳入标准化管理，涵盖代码静态扫描、依赖库白名单、开源许可证台账、智能体可调用接口清单、敏感数据脱敏规则及人工复核节点设置等环节。消费类摄像头安全标识、网联设备备案等工作的同步推进，进一步印证“联网+人工智能”产品的安全可追溯性将成为基本要求。率先实现此类流程标准化的企业，将在投标、尽职调查、客户验收等环节占据优势，并有效降低事故发生率。
2026年，团体标准发展进入精细化阶段。GB/T 20004由指南升级为规范，五省市开展规范管理试点，全国团体标准信息平台持续清理空壳社团与低质标准。同时，优质团体标准获得更为明确的国标采信通道，新一代信息技术、新能源、高端制造等领域已有团标转国标的成功案例。对于从事智能客服、工业智能体、教育AI、医疗辅助决策、智能摄像头及智能家居等领域的企业而言，在行业尚无统一人工智能应用安全口径的情况下，联合上下游单位共同制定团体标准，将内部操作规程转化为术语定义、安全基线、测试样例、数据合规清单等标准化文件，既可沉淀技术壁垒，亦能在招投标、专精特新认定、绿色及数字化项目中提供有力支撑。
企业在启动标准化工作时，常面临撰写能力不足、投入产出预期不明、合作机构选择困难等顾虑。建议采取务实策略：先从已有的人工智能安全审查清单、智能体权限表、供应商评估模板等内部文档入手，整理形成征求意见稿，选择在行业内具有公信力、平台状态正常且熟悉团体标准良好行为规范的机构进行合作。初期标准不必追求完美，重在可执行、可复测、可迭代；经过两年运行与案例积累，再考虑向国标采信、行业推广方向拓展。
相较于被动应对监管要求或客户审查，主动以团体标准确立规则更具成本效益与长远价值。若贵司所处细分领域目前尚无统一的人工智能应用安全标准，欢迎与本公司就团体标准立项事宜进行交流——建议先梳理具体场景与需求，再搭建框架，力求使标准成为业务实践中的实用规范，而非流于形式的文件。
