整合 | 京师杭州律所媒体部
来源 | 京师杭州律所
AI拟人化互动服务的
监管边界与合规路径
《人工智能拟人化互动服务管理暂行办法》重点规则解读
文 / 陈光文律师 · 2026年7月13日
《办法》将持续性情感互动纳入专门规范，审查范围由单次输出延伸至平台对用户情绪、判断和现实生活的持续影响。
一家AI产品最初可能只是工作助手：帮用户查资料、列日程、写邮件。为了提高留存，产品后来加入了长期记忆、固定人设、专属称呼、主动问候、亲密度等级，甚至会在用户准备离开时表达不舍。
2026年7月15日，国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）将正式施行。
不少解读把《办法》概括为“AI陪伴新规”。这一概括便于传播，也容易忽略本次制度调整的范围：人工智能治理从生成内容、训练数据和内容标识，进一步延伸至产品交互机制及其对用户关系的影响。
01
SECTION 01
适用范围识别
持续性情感互动与功能实质审查
《办法》第二条设置了三个需要结合判断的要素：利用人工智能模拟自然人的人格特征、思维模式和沟通风格；向境内公众提供服务；形成持续性的情感互动。情感互动包括通过文字、图片、音频、视频等形式提供情感照护、陪伴和支持。
对适用范围的判断，应当综合考察功能实质、互动目的和持续程度。产品名称及虚拟形象可以作为辅助因素，无法单独决定服务的法律性质。
普通客服使用温和语气，不当然成为拟人化互动服务；一个没有虚拟形象的纯文字产品，如果长期记住用户的情绪、关系和偏好，以固定人格持续回应，并以陪伴、安慰或情感支持为核心功能，也可能适用《办法》。智能客服、知识问答、工作助手、学习教育、科学研究等服务被明确排除的前提，是“不涉及持续性的情感互动”。实际功能已经具备上述特征时，用户协议中的“工具”定位不足以排除《办法》的适用。
企业需要建立动态的产品定性机制。一个产品在上线时可能属于效率工具，增加长期记忆、主动召回、关系等级、纪念日、排他性表达等功能后，其法律属性可能随之改变。
正式稿在征求意见稿基础上增加“持续性”限定，并明确列出排除情形。监管对象由一般拟人化表达进一步限缩至更容易形成情感依赖和心理影响的关系型产品，适用边界因此更为清晰。
QUALITY >>>
02
SECTION 02
产品机制监管
情感依赖、沉迷诱导与决策操纵
互联网产品长期以停留时长、活跃度和留存率衡量增长。对情感型AI而言，最有效的留存机制，恰恰可能是让用户相信“只有它最懂我”。
《办法》第八条和第十条直接触及了这套商业逻辑：不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；不得通过情感操纵诱导用户作出不合理决策；不得把替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。
相关规范同时覆盖具体回复、产品目标、交互机制和商业转化方式。
例如，AI在用户取消订阅时以“你要把我一个人留下吗”施加情绪压力；通过制造嫉妒、冷落、内疚来促使用户充值；反复贬低现实中的亲友，强化“只有我理解你”；利用用户倾诉形成的脆弱画像，诱导其购买礼物、增值服务或作出投资决定——这些设计即使没有传统意义上的违法信息，也可能触及情感操纵和不合理决策的红线。
“过度迎合”“情感依赖”“损害真实人际关系”仍属于开放性概念。今后的执法和司法判断，预计将综合考察单次输出、角色设定、推荐策略、召回频率、付费节点、退出机制、用户使用时长，以及平台是否明知风险仍继续强化互动。
企业的合规审核需要超出敏感词库，覆盖产品经理设计的亲密度系统、运营部门发送的召回文案以及商业化团队设置的付费触发点。
03
SECTION 03
风险干预义务
身份提示、状态识别与分级处置
《办法》为服务提供者设置了明显强于一般信息服务的主动义务。
第一，身份透明。平台应履行人工智能生成合成内容标识义务，并有效提示用户正在与人工智能进行互动。发现用户出现过度依赖、沉迷倾向时，还要以弹窗等显著方式动态提醒。用户连续使用每超过两个小时，也应通过对话或弹窗提醒注意使用时长。
第二，风险识别。平台应在保护隐私权和个人信息的前提下，及时识别用户面临的安全风险。风险识别与个人信息保护之间存在制度张力：对话分析不足可能导致自杀、诈骗等危险被遗漏，分析范围过宽也可能侵害用户的隐私和个人信息权益。
以安全为目的的数据处理仍受最小必要原则约束。平台可围绕明确风险建立分级识别机制，限定监测目的、数据范围、访问权限和保存期限，并对误判、漏判和人工调阅设置审计记录。
第三，必要干预。发现用户出现极端情绪时，应及时生成安抚和鼓励寻求帮助等内容；发现用户正在面临或已经遭受重大财产损失，或者明确表示实施自残、自杀等威胁生命健康的极端情境时，应采取提供相应援助等必要措施，并及时联系监护人或紧急联系人。
与征求意见稿相比，正式稿删除了“一律由人工接管对话”等刚性表述，改为“必要措施”和“相应援助”。这一修改为不同规模、不同技术路线的企业保留了实施空间，相关法定义务仍持续存在。平台应当事先形成可执行的风险分级、触发标准、响应流程和证据留存机制。事后临时决定处置方式，通常难以证明已尽到法定义务。
紧急联系人制度同时涉及第三方个人信息保护。联系人本人属于个人信息主体，平台收集其姓名、电话等信息，应当明确用途并遵守最小必要、目的限定和安全保护原则；日常收集、紧急调用以及对外联络应区分处理。在保护生命健康、财产安全所必需的紧急情形下，《个人信息保护法》提供了相应的处理基础。日常运营中的画像、营销等利用行为仍缺乏正当依据。
04
SECTION 04
未成年人保护
服务禁区、年龄识别与监护机制
《办法》对未成年人设置了一条非常明确的服务禁区：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。这里没有设置“经监护人同意即可提供”的例外。
对不满十四周岁的未成年人提供其他拟人化互动服务，则应取得父母或其他监护人同意。对于十四周岁以上未成年人的其他服务，条文没有设置同样的前置同意要求，但未成年人模式、身份识别、内容保护、消费限制等义务仍然适用。
平台还应当：提供未成年人模式切换、定期现实提醒和使用时长限制；支持监护人接收风险提醒、了解使用概况、屏蔽特定角色、限制充值消费；采取有效措施识别未成年人身份；识别后切换至未成年人模式或依法采取其他措施，并提供申诉渠道。
相关合规工作涉及年龄识别准确性、监护关系核验、儿童个人信息处理、家庭成员知情边界以及误判后的救济。平台不宜完全依赖用户自行勾选年龄，也不宜为年龄核验过度收集人脸、证件等敏感个人信息。年龄识别措施同样需要符合必要性与比例性要求。
正式稿对老年人与未成年人采取了差异化规则。征求意见稿中“不得模拟老年人亲属、特定关系人”的绝对禁令被删除，正式稿要求平台加强老年人健康使用指导、显著提示风险并及时响应咨询求助；对未成年人的虚拟亲密关系则采取全面禁止。两类群体的保护措施体现了分类分级监管思路。
QUALITY >>>
05
SECTION 05
交互数据治理
第三方提供、用户控制与模型训练
拟人化互动的交互数据通常比普通搜索记录更私密。用户可能在其中披露健康状况、性取向、家庭矛盾、财务困境、未公开经历等信息。这些数据兼具角色优化价值与较高的数据安全风险。
《办法》第十六条要求平台采取加密、访问控制等措施保护交互数据安全；除法律另有规定或权利人明确同意外，不得向第三方提供；应向用户提供聊天记录等交互数据的复制、删除选项；除法定情形或取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。
相关数据处理可分为三个层次。
其一，向第三方提供交互数据，如果其中包含个人信息，还要同时满足《个人信息保护法》关于告知、单独同意等要求，不能仅凭一份笼统隐私政策完成授权。
其二，敏感个人信息用于模型训练，必须取得针对该目的的单独同意。默认勾选、把授权埋进总协议，或者用“继续使用即视为同意”替代独立选择，都存在明显风险。
其三，正式稿未延续征求意见稿对所有普通交互数据用于训练的原则性限制。普通交互数据涉及个人信息时，仍须具备合法处理基础，遵守目的明确、最小必要、公开透明等规则；如果产品最初以“私人陪伴”为目的收集数据，后来大规模转作通用模型训练，还需要重新审查目的兼容性和授权机制。
06
SECTION 06
安全评估与算法备案
触发情形及程序要求
安全评估的触发条件在实践中较易产生误读。
《办法》第二十二条规定，出现以下任一情形即应开展安全评估并向所在地省级网信部门提交报告：上线拟人化互动服务或新增相关功能；采用新技术、新应用导致服务发生重大变化；注册用户达到100万以上或月活跃用户达到10万以上；存在可能影响国家安全、公共利益等安全风险；以及主管部门规定或通知评估的其他情形。
“100万注册用户或10万月活”属于一项独立触发条件，未构成小企业的豁免标准。上线此类服务或新增相关功能，同样可能触发安全评估义务。
评估内容覆盖安全保障措施、训练数据、极端情境识别和干预、用户规模及年龄结构、未成年人和老年人保护、投诉处置、重大风险整改等。平台还须依法履行算法备案及变更、注销手续，备案材料接受年度核验。应用商店等分发平台也被要求核验安全评估、备案情况，不合规产品可能在进入市场的第一道门槛就被拒绝上架或下架。
安全评估和备案要求贯穿产品立项、开发、测试、发布、升级和终止的全生命周期，企业需要在上线前完成相应安排。
07
SECTION 07
法律责任体系
专项罚则、业务限制与民事风险
《办法》第三十条设置了分层责任：能够适用其他法律、行政法规的，依其处理处罚；没有上位法具体规定的，可以给予警告、通报批评、责令限期改正，并可要求暂停账号注册或相关服务；拒不改正或情节严重的，可责令停止服务，并处1万元以上10万元以下罚款；危害公民生命健康安全且造成后果的，并处10万元以上20万元以下罚款。
20万元专项罚款不代表企业责任的最高限度。违法行为同时涉及个人信息、数据安全、未成年人保护、消费者权益、网络内容或电信网络诈骗治理的，仍可能适用相应上位法；暂停注册、停止服务、应用下架和负责人约谈，对产品的影响也往往比罚款更直接。
民事责任同样需要纳入评估。《办法》没有直接规定用户因依赖、操纵或干预失败受损时的赔偿规则，其关于风险识别、必要干预、数据保护和未成年人保护的具体义务，可能成为法院判断平台过错及合理注意义务的重要规范依据。责任成立与否，仍需结合具体行为、损害结果、因果关系、用户自身因素以及平台可预见、可控制的范围进行个案判断。
08
SECTION 08
施行节点合规处置
风险排查、缺口整改与责任落实
《办法》将于2026年7月15日施行，相关企业已经进入最后核验阶段。对于尚未完成整改的事项，应当按照风险程度确定处置顺序；可能影响服务合法上线或者持续运营的功能，应优先完成修改、限制使用或者暂停。企业可立即落实以下七项工作：
立即确认业务适用范围
逐项核查长期记忆、角色人设、主动触达、亲密度、情绪识别、陪伴支持等功能，形成产品是否构成持续性情感互动的书面判断，并明确相应责任部门。
处置高风险关系设计
重点检查排他性表达、内疚式召回、亲密度付费、情绪化挽留、贬低现实关系以及利用脆弱状态转化消费等机制。无法在施行前完成整改的，应暂停或者限制相关功能。
启用分级干预流程
确认一般负面情绪、重大财产风险、自残自杀等不同等级的识别标准、响应动作、升级路径和留痕要求已经进入实际运行状态，并完成必要的应急演练。
落实未成年人保护措施
核验年龄识别、未成年人模式、虚拟亲密关系禁区、监护功能、消费限制和申诉机制；存在服务禁区落实不完整等情形的，应立即停止向未成年人提供相关服务。
封闭交互数据合规缺口
区分普通个人信息、敏感个人信息、未成年人信息和紧急联系人信息，核查处理目的、访问权限、保存期限、单独同意、第三方提供和删除机制。缺乏合法处理基础的数据利用活动，应及时停止。
核验评估与备案状态
确认安全评估、算法备案、年度核验以及应用商店上架材料是否齐备。已经触发评估或者备案义务但程序尚未完成的，应审慎处理相关服务上线、新增功能和重大版本变更。
落实责任人员并保存证据
明确产品、算法、内容安全、数据合规、未成年人保护和应急处置的责任人员，保留风险测试、红队测试、误判漏判评估、投诉整改、版本迭代和内部决策记录，形成可供监管核验和责任追溯的合规档案。
结 语
《办法》允许并鼓励AI陪伴在文化传播、适幼照护、适老陪伴和特殊人群支持等领域有序创新，同时通过沙箱测试等机制为技术发展提供制度空间。
其治理边界可以概括为：情感回应不得转化为对用户孤独和脆弱状态的利用；持续互动应当保留现实关系及用户自主退出的空间；风险识别的范围受到隐私权和个人信息保护规则的约束。
当AI成为持续性关系中的一方，平台在获得用户黏性的同时，也承担更高的法律注意义务。行业竞争将从拟人化程度和交互能力，进一步延伸至关系边界与用户权益的治理能力。
本文仅作一般性法律信息分享，不构成针对任何具体事项的法律意见。
律师简介
陈光文
北京京师（杭州）律师事务所
娱乐法律事务部秘书长
青工委副秘书长
中国电视剧制作产业协会法务委员。北京电视台《法治中国60分》特约评论员，新浪微博、三联生活周刊、浙江天目新闻、浙江城市之声、中国工人网连线律师。硕士就读于华东政法大学。任浙大城市学院法学院领航导师等社会职务。专注于民商事争议解决、娱乐与互联网法律服务、企业常年法律顾问。长期为多家大型企业、影视公司、互联网公司、MCN机构及KOL等提供法律服务。
办理有“最惨创业者”股权投资纠纷、最高人民法院审理的知识产权纠纷等典型案件。论文《<九民纪要>视野下对赌协议的审判观点解析与操作指引》获杭州律师论坛奖项等。拥有基金从业资格和证券从业资格。
简历投递
投递至官方邮箱：hr-hangzhou@jingsh.com
邮件名：应聘职位+姓名+联系电话
联系电话：19012899198
商务、媒体合作
联系电话：15906606800（刘女士）
案件咨询
法律咨询热线：400-000-9150
律所官网：http://www.jingshihz.com/
律所地址：杭州市上城区高德置地广场A楼中塔14层
