AI合规实务系列

2026年5月，三部委联合发布《智能体规范应用与创新发展实施意见》，监管从“管模型”转向“管行为”

AI不再只是技术问题，而是法律问题。

任何计划在企业内部或面向公众部署AI大模型的组织，都必须正视一个现实——合规不再是'加分项'，而是'准入门槛'。

Part 01

一、新规解读：2026年AI监管框架的三重升级

Scene 01

1. 从"管模型"到"管行为"的范式转变

这是2026年最核心的监管趋势变化。

过去两年（2023-2025），监管焦点主要集中在模型本身——语料是否合规、生成内容是否安全、是否完成备案。但从2026年开始，随着AI Agent（智能体）大规模落地，监管重心发生了根本性转移：从“模型安全”转向“行为安全”。

《智能体规范应用与创新发展实施意见》明确提出三“可”底线：

这意味着，过去那种“模型备案了就万事大吉”的思路已经不够了。企业需要对AI系统在实际运行中的行为承担持续的法律责任。

Scene 02

2. 三大核心法规构成监管底座

当前，企业AI合规的法规底座由以下三部分构成：

《生成式人工智能服务管理暂行办法》（2023年8月施行）

 这部法规奠定了AI服务提供者的基本义务框架：训练数据合法性、生成内容安全责任、个人信息保护、算法透明度等。至今仍是AI合规的“基本法”。

《智能体规范应用与创新发展实施意见》（2026年5月发布）

 最新发布的顶层设计文件，首次明确了智能体的分类分级治理框架：

• 敏感领域/重点行业（金融、医疗、政务等）：实行备案、检测、问题产品召回等管理措施
• 低风险领域（生活娱乐、日常办公）：通过合规自测、信息报告、行业自律实现高效治理

修订版《网络安全法》（2026年1月1日施行）

 首次将AI安全治理纳入国家网络安全法治框架，明确规定AI系统必须满足“可控、可追溯、可解释”的三性要求。

此外，中国互联网协会发布的团体标准《人工智能通用大模型合规管理体系 指南》（T/ISC 0080-2025）为企业提供了一套从组织环境到持续改进的全链路合规管理框架，值得作为体系建设的重要参考。

Scene 03

3. 监管落地的三个新趋势

趋势一：从自愿合规走向强制合规

 行业专项标准正从推荐性指引转变为监管底线。金融、医疗、政务等重点行业的AI部署，正在快速被纳入专项监管。

趋势二：从单一备案走向全生命周期监管

 备案只是起点。2026年的趋势是建立覆盖“设计—部署—运行—退出”全生命周期的监管闭环。

趋势三：从技术合规走向业务合规

 监管开始关注AI系统在实际业务场景中的具体行为，而非仅仅检查技术文档。这意味着法务部门需要与技术部门更紧密地协作。

Part 02

二、实务指引："双备案"体系与8张必备证照

Scene 01

1. "双备案"到底备什么？

目前实务中已形成“算法备案 + 大模型备案/登记”的双轨制监管框架。这是绝大多数企业AI部署时最容易搞混的环节。

关键提示：企业应在服务上线前完成备案。调用第三方大模型时，企业仍需以自身名义作为“服务提供者”履行备案义务，不能直接使用集团总部或第三方的备案号。集团型企业的子公司需单独备案。

Scene 02

2. 8项核心资质证照清单

部署一个面向公众的AI大模型服务，需要取得或完成的资质证照包括：

Scene 03

3. 备案材料准备要点

大模型备案的核心材料清单（2026年标准）：

• 《上线备案表》： 含模型信息、服务范围、算力配置、语料来源等
• 《安全评估报告》： 30-100页，覆盖语料安全、模型安全、数据隐私等，是企业投入最大的环节
• 《语料标注规则》： 标注流程、标准及质量控制机制
• 拦截关键词列表： 覆盖17类安全风险，全国要求最低1万词——但北京要求高达20-50万词
• 评估测试题集： 覆盖31类风险场景，≥2000条生成题+500条拒答题
• 模型服务协议+隐私政策： 需符合《个人信息保护法》要求

硬性技术指标方面，需特别注意：

• 境外训练数据占比 ≤ 30%
• 敏感问题拒答率 ≥ 95%（同时非敏感问题误拒率 ≤ 5%）
• 语料技术筛查比例 ≥ 10%

Scene 04

4. 地区差异：北京严、上海细、广东活

不同地区的备案实操要求差异显著：

企业应根据自身注册地和业务场景，提前与属地网信办沟通，了解当地的具体要求。

Part 03

三、实务指引：企业AI部署的5大合规维度

Scene 01

维度一：数据合规——语料从哪里来，数据放在哪里

数据合规是AI合规的基石。企业在部署AI大模型时，需重点关注：

训练数据来源合法性：

• 使用公开数据训练：需要确认数据获取方式是否合法，是否涉及著作权保护内容
• 使用商业语料：需有采购合同及来源合法性声明
• 使用用户数据：需遵循“告知-同意”原则，不得超范围收集

数据安全防护：

• 建立数据安全分级防护体系
• 境外训练数据占比不得超过30%
• 建立语料追踪机制，确保内容可追溯源头

个人信息保护：

• 明确告知用户数据收集目的和使用范围
• 遵循“最小必要原则”
• 用户交互信息按规定存储和使用，不得超期留存

Scene 02

维度二：生成内容管理——"AI技术过滤+人工复审"双重防控

根据《生成式人工智能服务管理暂行办法》，AI服务提供者需要承担网络信息内容生产者责任。

实操要点：

• 建立“AI技术过滤 + 人工复审”双重防控机制
• 人工抽检语料不低于4000条，合格率需≥96%
• 建立敏感问题拒答机制，拒答率需≥95%
• 建立生成内容的全程留痕管理机制，构建合规证据链

Scene 03

维度三：个人信息保护——不可回避的合规义务

无论是训练阶段还是服务运行阶段，个人信息保护都是AI合规的高风险领域：

• 处理个人信息前需取得用户同意，不得默认授权
• 提供拒绝提供个人信息的选项，不得因此拒绝提供服务
• 建立数据安全保障措施，防范个人信息泄露风险
• 关注敏感个人信息（生物识别、健康信息、金融账户等）的“单独同意”要求

Scene 04

维度四：算法公示与内容标识——让AI"被看见"

算法公示：

 以显著方式告知用户提供算法推荐服务的情况，包括算法基本原理、主要运行机制、目的意图等。

内容标识（2025年9月1日起施行）：

 《人工智能生成合成内容标识办法》要求在本文内容中添加：

• 显式标识： 在生成内容的适当位置标识AI属性（如文字水印、语音提示、视觉标记）
• 隐式标识： 在元数据中包含服务提供者名称、内容编号等溯源信息

这是企业最容易忽视的合规义务，但处罚力度不小。

Scene 05

维度五：投诉举报与应急机制

• 设置便捷的投诉举报入口
• 公布处理流程和反馈时限
• 及时受理、处理并反馈结果
• 制定数据安全事件应急预案——泄露后24小时内的法务行动清单
• 建立与监管部门的日常沟通渠道

Part 04

四、案例复盘：AI部署踩过的那些坑

Scene 01

案例一："DeepSeek本地部署"仿冒案——品牌混淆

2026年2月，国家市场监管总局公布了五起人工智能领域不正当竞争典型案例。其中两起涉及“DeepSeek”品牌混淆：

北京奥蓝德公司利用网站推广名为“DeepSeek本地部署工具”的软件，在网页使用“DeepSeek”字样及官方图标，通过竞价排名“搭便车”。被责令停止违法行为，罚款5000元。

杭州博珩文化传媒公司建立“DeepSeek本地部署”网站，使用与官方高度相似的图标和页面设计，诱导用户付费。罚款3万元。

启示：使用知名AI品牌名称/图标进行商业推广，需获得明确授权。即使产品本身与品牌相关（如提供本地部署服务），也不得擅自使用品牌标识误导消费者。

Scene 02

案例二：AI语音外拨虚假宣传案——技术被用于违法

上海俏聘网络信息科技有限公司销售“斗星智能”AI外拨软件，帮助贷款中介使用AI语音进行电话推销。问题在于：话术冒充银行工作人员，属于虚假宣传。被罚款20万元。

启示：AI技术提供者不能以“工具中立”为由免责。如果明知或应知客户利用AI技术从事违法行为，技术服务提供者可能承担连带责任。企业部署AI时，需要建立客户准入审查和使用行为监控机制。

Scene 03

案例三：AI网站审核失职案——"技术非'法外之地'"

2025年10月，山东省青岛市公安局黄岛分局查处了辖区首例AI网站审核失职案。某互联网工作室运营的“AI智能网站”提供有偿AI模型访问服务，未对生成内容进行必要审核，导致虚假信息传播。最终被责令限期整改，依法予以警告。

启示：即使只是提供第三方模型的访问入口（代理服务），运营方仍需落实信息安全主体责任——包括用户注册制度、信息发布审核制度、数据安全管理制度等。警方明确警示：“技术非‘法外之地’”。

Scene 04

案例四：AI算法商业秘密侵权案——内部人员的泄密风险

某计算公司工程师利用工作密钥，擅自下载包含数据算法技术的完整代码文件15.88GB。该AI算法代码被认定为商业秘密，侵权人被罚款36万元。

启示：AI模型和算法代码是企业的核心商业秘密。部署AI大模型的企业需要建立严格的内部数据安全管理制度，包括访问权限分级、操作日志审计、离职人员数据清理等。

Scene 05

案例复盘核心总结

Part 05

五、合规行动清单

Scene 01

短期行动（立即启动，1 3个月）

• 界定业务场景，明确AI产品所属风险等级（敏感领域 vs 低风险）
• 确认是否需要办理算法备案和/或大模型备案
• 启动安全评估报告编制
• 建立关键词拦截库（关注属地要求，北京需20-50万词）
• 准备评估测试题集（31类风险场景，≥2000+500题）
• 上线内容标识功能（显式+隐式标识）
• 制定并公示用户协议和隐私政策

Scene 02

中长期行动（体系建设，3 12个月）

• 建立“一个产品、多线合规”体系（同时满足数据安全、网络安全、算法备案、个人信息保护等要求）
• 组建跨部门AI治理委员会（合规、技术、业务三条线联动）
• 将AI测试纳入项目立项标准，嵌入研发和运维闭环
• 建立AI安全三道防线：内生安全 → 供应链安全 → 应用衍生风险防控
• 建立全链路留痕管理机制，构建合规证据链
• 与监管机构建立日常沟通渠道，持续关注政策动态
• 定期开展合规审计，建立持续改进的合规管理闭环

Part 06

结语：合规不是成本，是入场券

AI大模型的合规部署，不是一个“可以晚点再说”的问题。

从2025年到2026年，监管框架从零星散落走向体系化，执法力度从温和提醒走向实质性处罚。那些已经踩过坑的企业用真金白银告诉我们：合规的投入，远小于违规的代价。

但换个角度看——合规也是护城河。当行业还在野蛮生长时，率先建立系统化合规能力的企业，将在未来的监管环境中拥有明显的竞争优势。合规不是发展的刹车，而是可持续行驶的安全带。

企业AI部署的竞赛，技术决定起点，合规决定终点。

Part 07

📚 参考文献

• 《智能体规范应用与创新发展实施意见》（国家网信办、发改委、工信部，2026年5月）
• 《生成式人工智能服务管理暂行办法》（国家网信办等七部门，2023年7月）
• 《人工智能通用大模型合规管理体系 指南》（T/ISC 0080-2025）
• 《生成式人工智能服务安全基本要求》（全国网安标委会，2024年3月）
• 市场监管总局公布5件人工智能领域不正当竞争典型案例（2026年2月）
• 青岛黄岛网安查处辖区首例AI网站审核失职案（2025年10月）
• 《生成式人工智能服务监管热点——“双备案”实务新观察》（君合律所）
• 2026年AI大模型备案政策解读与地区实践差异
• 修订版《中华人民共和国网络安全法》（2026年Q1施行）
• 《人工智能生成合成内容标识办法》（2025年9月1日施行）

文章内容如涉及作品内容、版权和其它问题，请在30日内与本公众号联系，我们将在第一时间删除内容。文章只提供参考并不构成任何投资及应用建议。

欢迎交流

如果您对AI大模型部署的合规问题有任何疑问，欢迎在评论区留言或联系我们。

后台回复：“企业AI大模型部署合规自查清单”获取完整合规清单

图片来自：Akon