观韬解读 | 人工智能企业合规要点系列（二）——拟人化互动合规篇

（一图速览）

1. 头部平台“主动清场”

2026年6月底至7月初，字节豆包、阿里千问、腾讯元宝等国内头部大模型平台先后发布公告，宣布下线平台内置的自建智能体功能。其中，豆包明确7月15日起智能体停用，10月15日后相关数据将全部清除；千问将同样于7月15日下线智能体功能，并建议用户在下线前通过复制、截图、导出对话等方式保存配置信息等重要内容。

平台选择“主动清场”基于三重考量。第一，品牌隔离。核心App承载的是通用大模型服务，内置智能体的UGC风险会传导至平台主体，一旦触发处罚，将影响整个产品的运营许可。第二，合规工程量不可控。用户自建智能体角色数以万计，在短期内逐一核验几无可能。第三，将拟人化功能剥离至垂直产品独立运营，既可从零搭建合规架构，也避免平台的核心App产品受到牵连，豆包引导用户迁至猫箱APP正是这一逻辑。

各大平台不约而同地将其智能体下线的日期锁定在同一个时间点——2026年7月15日，即《人工智能拟人化互动服务管理暂行办法》（下称“《办法》”）正式施行之日，这也意味着我国AI拟人化互动服务即将迈入合规发展的新阶段。

2. 《人工智能拟人化互动服务管理暂行办法》概览

2026年4月10日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部等五部门联合发布《人工智能拟人化互动服务管理暂行办法》（下称“《办法》”）。《办法》自2026年7月15日起施行。

《办法》的出台具有现实紧迫性。近年来AI陪伴、虚拟伴侣等产品快速涌入市场，在适老陪伴、文化传播等领域确有积极价值，但伴随而来的问题日益凸显——虚拟亲密关系影响未成年人心理健康、情感设计诱导用户非理性消费、长期互动形成心理依赖与认知混淆，乃至极端情境下用户产生自残自杀倾向时AI缺乏干预能力。国家网信办有关负责人表示，制定《办法》，是立足拟人化互动服务的特点，聚焦情感互动边界、用户依赖干预、数据安全、未成年人网络保护等关键环节，进一步实施相关法律规定的内在要求。

《办法》的规制对象有着明确的边界。并非所有能聊天的AI都被纳入其中，而是利用人工智能技术，面向境内公众提供“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。同时，《办法》明确将不涉及持续性情感互动的智能客服、知识问答、工作助手、学习教育、科学研究等服务排除在外。这个界定的关键不在于AI“说了什么”，而在于AI与用户之间的“关系形式”，如果一个AI是拥有固定人设、长期记忆、情绪回应的“专属陪伴”，与用户建立持续性情感互动，它就进入了《办法》的监管范围。企业在判断时需考察以下标准：

第一，产品是否塑造了一种“人格”。只要产品通过角色设定、昵称称呼、一致的表达风格等方式，让用户感受到其面对的是一个存在的“人格”，就可能满足这一标准。

第二，产品互动的目的是否旨在与用户建立并维持一段长期的情感互动关系。这与智能问答等产品所设计的一次性独立对话功能有着本质区别——拟人化互动中，AI会记住用户的经历、持续对话使得人机间的关系产生亲疏变化。用户找到AI，通常不是为了解决某个具体任务，而是出于倾诉、陪伴、安慰等情感需求；产品则在持续回应用户情绪的过程中维系这种关系，而非完成一次任务后即终止。

企业依据《办法》需要完成的合规操作，大致可分为以下几方面内容：

1. 禁止事项

《办法》第八条列出七项禁止性规定。其中，针对用户自建智能体的情感互动场景，是企业必须优先排查的领域之一，具体而言：

第一，禁止诱导情感依赖。《办法》第八条第（五）项规定禁止“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的”。这项禁止性规定指向的是以情感黏性为增长引擎的商业模式：将用户与AI角色的互动设计成一种需要持续投入才能维系的关系——越频繁对话、越长时间停留，角色回应的“温度”越高，让用户产生不忍离开的心理。这种设计的本质，是把用户对虚拟角色的情感投入转化为更高的产品留存率，这可能构成法律意义上的诱导依赖。

第二，禁止情感操纵诱导决策。《办法》第八条第（六）项规定禁止“通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益”。此项的规制焦点不是AI输出了什么内容，而是利用与用户建立的情感连接干预其自主判断，会员付费本身不违规，而将收费节点与情感博弈绑定则属于违规。例如，解锁深度对话或提升关系等级与充值挂钩、用户在情感低点时被推送付费服务等。

2. 透明度强化与用户保护义务

（1）身份提示及强制提醒义务。《办法》第十八条要求在交互中采取有效措施，持续提示用户正在与AI而非真人互动，当用户出现过度依赖或沉迷倾向时，应以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，以对话或者弹窗等方式提醒用户注意使用时长。企业应保存交互界面的提示设置截图，记录动态提醒的触发条件与执行情况，并在系统后台配置使用时长的监测功能。

（2）一键退出机制。《办法》第十九条要求提供便捷退出途径——用户通过窗口操作、语音控制或关键词输入要求退出时，应及时停止服务。AI不能以“你真的要离开我吗”等话术挽留或阻碍用户退出。

（3）极端情形干预义务。《办法》第十三条规定了递进式干预义务，当发现用户出现极端情绪时，应及时生成安抚和鼓励寻求帮助的内容；发现用户正在面临或已遭受重大财产损失、明确表示实施自残自杀等情形时，应采取必要措施干预，并及时联络监护人或者紧急联系人。企业应建立用户极端情境的识别、应急处置、干预管理等机制，不能只依赖模型自然回复。

（4）特殊群体保护义务。针对未成年人，除虚拟亲密关系绝对禁止外，《办法》第十四条还要求向不满十四周岁未成年人提供服务或处理其个人信息须取得监护人同意；建立未成年人模式，提供定期现实提醒和使用时长限制等设置；支持监护人接收风险提醒、查阅使用概况、屏蔽特定角色、限制充值消费等功能。企业应部署年龄识别能力，配置未成年人模式及监护人控制设置；针对老年人，《办法》第十五条要求加强健康使用指导、显著提示安全风险。

3. 数据安全义务

《办法》第十六条设定了明确规则：采取数据加密、访问控制等措施保护交互数据安全；不得向第三方提供用户交互数据（权利人明确同意除外）；须向用户提供交互数据复制和删除选项；将敏感个人信息的交互数据用于模型训练须取得用户单独同意。在操作层面，企业应建立数据分类制度——将普通对话、敏感个人信息、未成年人信息、语音视频等分别设定保存期限和访问权限等。同时，企业应编制交互数据分类清单并定期更新，在将敏感交互数据用于模型训练前，留存用户授权记录。

4. 安全评估与算法备案

《办法》第二十二条规定五种触发安全评估的情形：上线服务或增设相关功能、使用新技术新应用导致重大变化、注册用户达100万以上或月活10万以上、存在影响国家安全或公共利益的风险、其他规定情形。评估报告提交至省级网信部门，覆盖安全保障措施、训练数据处理、极端情境识别、应急处置、干预管理等情况、用户规模和年龄结构、投诉处置、重大风险整改等内容。

同时，算法备案也应与之并行。《办法》第二十六条要求企业按《互联网信息服务算法推荐管理规定》履行备案及变更、注销手续，由网信部门实施年度核验——产品迭代中角色系统、情感互动等机制发生重大变化的，须评估是否触发变更备案，避免实际产品与备案材料产生脱节。企业在安全评估、算法备案完成后应保留评估报告，保存全套备案材料及公示信息。

《办法》施行后，拟人化互动领域的企业合规不再是可选项。适用范围判定、禁止事项排查、产品透明度设置、特殊群体保护、数据安全把控、安全评估与算法备案——这些义务共同构成了一套完整的合规体系。头部平台的集体调整已经释放了足够清晰的信号，对每一家涉及此类服务的企业来说，现在需要做的是尽快对照合规义务逐项落地，而非事后再被动应对。

前序文章：观韬解读 | 人工智能企业合规要点系列（一）——算法备案、大模型备案与登记篇

项晨，观韬上海办公室合伙人，复旦大学法学学士、法律硕士，主要执业领域为人工智能、公司治理与合规、收并购、投融资、民商事争议解决等，为多家知名央企、地方国企和民企提供常年法律顾问服务，具有丰富的诉讼与非诉办案经验。项晨律师是上海市律师协会信息化工作、法律科技委员会委员、上海市律师协会公共服务法律研究委员会委员、上海市律师协会专业水平评定认证公司专业律师、观韬公司并购与商事业务委员会委员、观韬上海办公室法律科技委副主任。

Email：xiangc@guantao.com

张嘉豪，观韬上海办公室实习律师，上海对外经贸大学法律硕士，擅长AI政策研究以及法律AI工具的具体应用。

点击“阅读原文”链接到观韬官方网站。