深度解读

AI治理进入"场景落地"时代

《暂行办法》管的是生成式AI服务的"准入门槛"，但AI应用的伦理安全风险远不止生成内容这一块。你训练数据有没有偏见？模型会不会被滥用？用户过度依赖了怎么办？这些事，《暂行办法》管不着。

——作者对AI产品客户的回应

Part 01

一、这份文件是什么——以及它为什么值得你花时间读

深度解读《人工智能应用伦理安全指引1.0》：AI治理进入“场景落地”时代

上周一个做AI产品的客户问我：我们大模型上线前到底要做哪些合规？不是有个《生成式人工智能服务管理暂行办法》吗，照着做就行了吧？

我说不够。覆盖范围、切入角度、文件性质，都不太一样。《暂行办法》管的是生成式AI服务的“准入门槛”，但AI应用的伦理安全风险远不止生成内容这一块。你训练数据有没有偏见？模型会不会被滥用？用户过度依赖了怎么办？这些事，《暂行办法》管不着。

这恰恰是2026年5月19日发布的《人工智能应用伦理安全指引1.0》（TC260-005）要解决的问题。

Part 02

二、六大伦理安全影响——AI不是工具，是结构性力量

先说发布背景。2026年5月19日，中国网络文明大会的人工智能分论坛上，全国网络安全标准化技术委员会（以下简称“网安标委”）正式发布了这份文件。

网安标委，业内更熟悉的名字是TC260。这个委员会出的标准和技术文件，虽然不是法律、行政法规，但在中国网络安全和数据合规领域，影响力不亚于正式立法。个人信息保护领域的GB/T 35273、数据安全领域的GB/T 41479，都出自TC260。

所以《指引》虽然不是强制性规范——文件本身写得很清楚，是“原则性的参考性技术文件”——但它在实践中的分量，不容忽视。网信办的监管人员在检查AI产品合规性时，拿什么当参照系？往往就是这类技术文件。

我个人的判断是：这份文件是中国AI伦理安全治理从“原则倡导”走向“场景落地”的标志性节点。在此之前，我们有宏大的伦理宣言、有强制性的管理办法，但中间缺了一层——具体场景下“该做什么、不该做什么”的操作指南。《指引》恰恰补上了这一层。

还有一个值得玩味的细节：文件名带“1.0”。这意味着什么？网安标委自己的说法是“动态完善过程的起点”。翻译一下：这只是第一版，后续会根据技术演进和实践反馈持续迭代。对于一个2026年的AI治理文件来说，这种留白本身就是一种智慧——技术一天一个样，你不可能在2026年就把2030年的规则定死。

Scene 01

1. 人类主导权影响

AI行为超出人类预设、理解和可控范围。翻译成大白话：你可能不知道AI为什么做出这个决定，也没办法干预它。

这在法律上意味着什么？《民法典》上的意思自治、《个人信息保护法》上的自动化决策拒绝权，这些制度设计的底层逻辑都是"人说了算"。如果AI的行为超出了人的理解和控制范围，这些制度就落了空。

Scene 02

2. 公共秩序影响

AI被用于社会运行和行为决策——交通调度、信用评分、舆情引导——但技术演化的速度远快于社会反馈机制。等制度反应过来，技术已经跑出去很远了。

我2019年处理过一个案件，某平台用算法给用户打信用分，用户觉得自己分数不对，但平台说"算法算出来的，我们也不知道具体是为什么"。当时《个人信息保护法》还没出，处理起来非常棘手。这种"算法黑箱"问题，到今天也没有完全解决。

《指引》提出的应对思路是"公开透明"和"敏捷共治"——一方面要求算法可解释，另一方面强调治理规则要跟上技术节奏。方向是对的，但落地的难度，做过合规的人都知道。

Scene 03

3. 个体认知与社会价值影响

这一条我觉得是被低估的。AI的普遍应用形成了新的社会环境，可能导致人类过度依赖AI、个体与现实社会脱节。

说白了就是：人越来越依赖AI做判断，自己的思考能力反而退化了。你不是在"用AI"，你是在"被AI替代"——不是替代你的工作，而是替代你的判断力。

法律层面有个不太好回答的问题：如果一个人因为过度依赖AI做出了错误决策，这个责任怎么分配？AI服务提供者没有做充分的风险提示，使用者自己判断失误，还是说AI的推荐本身就有问题？《指引》没有给出答案，但它至少把这个问题提到了台面上。

Scene 04

4. 社会分化和歧视影响

AI放大偏见与歧视，这个大家比较熟悉了。训练数据里如果有偏见，模型输出的结果就会延续甚至放大这种偏见。但如果仅仅是"数据偏见"，问题其实还相对好解决——清洗数据、调整训练策略，技术上能做到。

更难处理的是《指引》提到的"结构性不利后果"。什么意思？AI的普惠性和不可及性可能同时存在。当AI服务集中在少数大企业手里，当AI的使用门槛天然地排除了某些群体，这种技术鸿沟本身就构成了一种制度性的不公。

这个问题已经不是技术能解决的了。它需要制度设计：公共服务领域的AI如何保证普惠性？如何看待AI带来的新形态"数字鸿沟"？这些问题，《指引》通过"普惠共享"原则给出了价值导向，但具体落地路径，还需要更细的规则。

Scene 05

5. 生命健康与基本权益影响

这一条覆盖的范围最广——生命健康、人身安全、人格尊严、隐私、财产、劳动，六大基本权益都可能受到AI应用的影响。

劳动权益这点我觉得值得单独说。《指引》明确要求"事先评估并防范AI应用可能引发的就业替代或失业风险"。这在中国AI治理文件中是比较新的提法。以前讨论AI对就业的影响，更多停留在学术层面；《指引》把它纳入了伦理安全评估的范围。

这意味着什么？如果你是一家企业的法务，公司要上AI系统替代部分人工岗位，你需要在伦理评估中专门分析就业替代风险，并提出应对方案。这不是HR的事，是合规的事。

Scene 06

6. 可持续生态影响

AI对环境的压力——尤其是大模型训练的能耗问题——这两年越来越受关注。《指引》将"可持续生态"作为伦理安全影响之一，提出不合理的技术路线选择和应用模式可能带来系统性生态压力。

我理解这里的"不合理"主要指的是：为了追求极致的性能指标而不计能耗成本。在法律层面，这可能会和未来的"绿色合规"要求对接——企业可能需要披露AI系统的能耗和碳排放数据。

Part 03

三、九大原则，一套逻辑

《指引》先做了一个很多人不愿意直面的事：系统梳理AI应用可能带来的结构性影响。不是“AI会犯错”这种表层问题，而是更深层的——AI作为一种社会技术力量，会如何改变人和人、人和组织、人和社会之间的关系。

我逐条说。

Part 04

四、三类主体三层责任——指引体系的精妙设计

《指引》确立了九项伦理安全原则。逐条罗列没有意义，我更想说的是这些原则背后的逻辑。

第一层——价值锚点：增进人类福祉、尊重生命权利、坚持公平公正。这三条告诉你，AI治理的最终目的是什么——不是为了监管而监管，是为了“人”。

第二层——风险控制：合理控制风险、保持公开透明、保护隐私安全、确保可控可信。这四条是操作层面的，告诉你做事的方法论。

第三层——治理框架：敏捷共治、普惠共享。这两条讲的是治理结构和利益分配——谁来管、收益归谁。

做合规的人应该能看出这套逻辑的设计感。它不是简单罗列“我们要怎样”，而是给出了一个从价值观→方法论→治理结构的完整体系。

几个值得单独说的：

“合理控制风险”——不是零风险，是合理可控。 零风险在AI领域不现实，这是实事求是的态度。

“保持公开透明”——可感知、可理解、可追溯。 可感知是用户知道自己在跟AI打交道；可理解是AI的决策逻辑能被解释；可追溯是出问题了能找到原因。三个层次，层层递进。

“确保可控可信”——主导权归属人类。 这句话在法律上分量很重：关键环节必须设置人类控制机制。AI可以做决策建议，但不能剥夺人类的最终决定权。

Scene 01

开发者指引：合规入链

开发者承担的是"源头治理"的责任。《指引》要求开发者：

这些要求里， 事故追溯机制 是实务中比较容易被忽略的。很多AI开发团队关注的是模型效果，对"出了事怎么追溯"缺乏设计。但从法律角度看，没有追溯机制就等于没有归责路径——出了事，谁的责任都说不清，最后很可能变成开发者的"无限责任"。

• 将伦理安全考虑嵌入数据选择、算法设计、产品研发全过程（不是做完产品再补合规，而是从第一天就开始）
• 设置事故信息追溯机制（出了事能找到原因、能定责）
• 审慎开发高度自主性AI应用，重点评估失控风险
• 面向易受影响群体采取专门设计考量

Scene 02

服务提供者指引：底层数据行为的规制

提供者位于生态中间，承上启下。《指引》最值得关注的要求是：

保障拒绝权 这条，我认为是《指引》最有"牙齿"的条款之一。如果你的AI服务不能让用户方便地"说不"，那你就不合规。

• AI宜仅承担辅助决策作用 ——涉及国家安全、重大生命财产安全时，AI不做直接决策
• 保障拒绝权 ——以清楚明确的方式向使用者提供拒绝、干预及停止使用AI服务的机制
• 数据最小化 ——杜绝偷采、强采、滥采
• 收集数据用于训练时，持续提示收集状态并告知关闭方式

Scene 03

使用者指引：义务与自律

对使用者，《指引》的要求相对较轻，但有几条必须重视：

• 不利用AI进行误导、骚扰、操纵 （想想deepfake和AI换脸诈骗，这条写的谁）
• 履行生成合成内容标识义务 ——《暂行办法》已经要求了，《指引》再次强调
• 及时反馈伦理安全风险 ——使用者是AI风险的一线感知者，反馈机制不可或缺

Part 05

五、分场景指引：治理不是一刀切

《指引》把AI应用生态拆成三类主体：应用开发者、服务提供者、应用使用者。每类主体有各自的指引要求，合在一起形成一个完整的治理闭环。

Part 06

六、从文件到行动：企业AI伦理合规路线图

《指引》最大的亮点之一，我认为是“统分结合”的结构。既有跨领域通用要求，又有按场景分类的差异化指引。

五个重点场景：

生命健康与人身安全场景：以人为本、安全优先、审慎适用。医疗AI是典型的高风险应用——误诊、漏诊的影响直接涉及生命健康。在这个场景下，《指引》的导向是“慎之又慎”。

社会治理与公共服务场景：公共利益优先、公平公正，保障公众知情与救济渠道。政府在用AI辅助决策时，不能因为“算法说了”就剥夺了公众的申诉权利。

信息资讯与传播场景：真实可信与清朗生态，避免信息茧房、认知误导。说的就是推荐算法——不能为了“粘性”牺牲“真实性”。

知识发现与生产场景：求真务实、可验证与学术诚信。AI辅助论文写作的学术伦理问题，今年已经出了不少案子。

金融活动场景：稳健审慎，注重风险控制与消费者保护。金融AI的特殊性在于——决策失误直接影响财产安全。

这种差异化治理的思路，我是认同的。一刀切式的监管要么管不住高风险场景，要么把低风险场景管死了。场景化治理是更理性的选择。

Scene 01

如果你是AI开发者

必须做：

• 在算法设计阶段嵌入伦理安全考量，形成书面记录
• 设置事故信息追溯机制，确保每次AI决策都能追溯到具体原因
• 对高度自主性AI应用进行失控风险评估
• 面向未成年人、老年人等群体提供专门适配（例如：面向儿童的产品用符合年龄认知的语言）

不能做：

• 以纯性能指标驱动迭代，忽略伦理安全
• 对有较大不确定性的AI输出不做管控和提示（"幻觉"问题不能甩锅给"AI本来就会犯错"）

Scene 02

如果你是AI服务提供者

必须做：

• 设置清晰可见的"拒绝AI服务"机制——用户能方便地选择不用AI
• 遵循数据最小化原则，杜绝偷采、强采、滥采
• 收集数据用于训练时，持续提示用户并告知关闭方式
• 建立事故应急处置机制

不能做：

• 夸大AI能力，过度宣传
• 在涉及国家安全或重大生命财产安全的场景中，让AI做直接决策（AI只能是辅助工具）
• 使用"默认同意"收集训练数据

Scene 03

如果你是AI使用者

必须做：

• 对AI生成合成内容进行标识（转发AI生成的图片、视频时打上标识）
• 及时向服务提供者反馈AI使用中发现的伦理安全问题

不能做：

• 利用AI进行误导、骚扰、操纵他人
• 伪造AI生成内容冒充真实信息
• 在AI服务中分享不必要的敏感个人信息

Part 07

七、写在最后——1.0，不是终点

这份《指引》给我的感觉是——务实。

它没有提出什么惊天动地的新概念，而是在已有的法律框架（《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》）之上，补充了"伦理安全"这个维度。它不是替代现有规则，是让现有规则多了一个观察角度。

但也必须坦诚地说：《指引》目前还是"原则性的参考性技术文件"，没有强制执行力。它在实际法律程序中的分量——能不能被法院直接引用？能不能作为行政处罚的依据？——目前还是灰色地带。

但这不代表它不重要。TC260的技术文件在合规实践中向来是"软法硬用"。监管人员在检查合规时，不会只看法律条文，还会看技术标准。《指引》的"1.0"后缀已经暗示了它的走向：现在是柔性引导，未来可能演变为强制性标准。

所以如果你现在正在做AI产品的合规工作，建议把这份《指引》当成风向标来读。不一定要立即照单全收，但至少要理解它的逻辑，评估自己的差距，做好迭代准备。

毕竟1.0之后，还会有2.0、3.0。