大数跨境

豆包、千问同日下线智能体,7月15日生效的新规到底管什么

豆包、千问同日下线智能体,7月15日生效的新规到底管什么 AI Reading Hub
2026-07-04
90
导读:豆包、千问宣布7月15日下线智能体功能,腾讯元宝动手更早。同一天生效的AI拟人化互动新规是全球首个针对AI情感陪伴的国家级规则。这篇文章拆解新规条款、受影响的产品、创业公司的整改清单,以及这条赛道接下

7月4日,豆包和千问先后向用户推送了同一类通知:智能体功能将于2026年7月15日正式下线。

豆包给出的说法是产品功能调整,下线后用户还有一个窗口期可以查看和备份智能体信息与历史对话,10月15日之后数据将按隐私政策处理;同时官方建议用户转到字节旗下的猫箱App继续创建智能体。千问的通知更直接:下线后无法再访问智能体配置和历史对话,请提前复制、截图、导出。

腾讯元宝动作更早,6月中旬就已经陆续下架了包括《长相思》相柳在内的一批热门对话类智能体。

三家大厂,同一个动作,卡在同一个日期前。这当然与巧合无关——7月15日,《人工智能拟人化互动服务管理暂行办法》正式施行,这是全球第一部专门针对AI情感陪伴的国家级规则。这篇文章把新规、受影响的产品、整改要求和行业走向一次拆完。

一个判断公式:你的产品在被监管范围内吗

《办法》由网信办牵头,五部门在今年4月10日联合公布。它管的对象定义得很精确:利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务

拆开看是三个要素,可以直接当判断公式用:

拟人格 × 情感互动 × 持续性 = 落入监管

三个条件同时满足才适用。对照着看:

  • 智能客服、知识问答、办公助手、编程工具:有拟人格没情感互动,豁免。官方答记者问里点名排除了这类场景
  • 虚拟伴侣、AI恋人、角色扮演聊天App:三项全中,监管核心目标
  • 通用助手里的UGC智能体广场(豆包、千问下线的就是这个):用户自建角色里大量是人设型、陪聊型,平台没法逐个甄别哪些构成持续性情感互动,整块功能都暴露在监管射程内
  • 边界地带:带人格化设定的儿童AI玩具、陪学产品、语音助手——只要做了长期人设和情感化交互,大概率适用,而且儿童场景撞上的是全文最严的条款

这个公式值得每个做C端AI产品的团队拿去自查一遍。很多团队以为自己做的是工具,但只要给助手加了固定人设、记忆和情感化表达,产品性质在监管眼里就变了。

新规具体管什么:五张清单

把全文三十条压缩一下,核心义务是五组。

第一组:未成年人保护(最严的一组)

  • • 禁止向未成年人提供虚拟恋人、虚拟亲属等虚拟亲密关系服务——没有整改空间,直接不可用
  • • 向14岁以下儿童提供其他拟人化服务,需要监护人同意
  • • 要做未成年人身份识别,切换到未成年人模式:时长限制、消费限制、角色屏蔽、定期现实提醒

第二组:防依赖、防沉迷

  • • 连续使用每超过2小时,必须用对话或弹窗提醒注意时长
  • • 发现用户有过度依赖、沉迷倾向,要用显著方式动态提醒对方是AI而非真人
  • • 禁止「过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系」,禁止通过情感操纵诱导用户做不合理决策

第三组:内容与干预义务

  • • 不得生成损害用户身心健康、损害人格尊严的内容;不得向未成年人生成可能诱发模仿危险行为或极端情绪的内容
  • • 发现用户出现极端情绪,要及时生成情绪安抚内容并引导寻求帮助;识别到威胁生命健康的极端情境时,要采取干预措施,并及时联络监护人或紧急联系人

第四组:数据规矩

  • • 用户交互数据除法定情形或用户同意外,不得提供给第三方
  • • 敏感个人信息类的交互数据,未经单独同意不得用于模型训练
  • • 要给用户提供交互数据的复制、删除入口

第五组:程序性义务

  • • 按算法推荐管理规定完成算法备案,接受年度核验
  • • 注册用户超100万或月活超10万等情形,要做安全评估并向省级网信部门提交报告
  • • 提供便捷的退出方式,用户要求退出时不得用持续互动挽留;建立申诉投诉渠道

罚则本身不算重:责令改正、暂停服务、罚款上限二十万元。但对产品来说要害根本不在罚款金额——下架和暂停服务才是致命的,应用商店也被纳入了审核连带责任。上海6月底通报的专项行动里,已经集中清理了1.4万多个违规智能体,执法口径在新规生效前就跑起来了。

大厂为什么直接下线:一个四象限

豆包和千问都没有选择整改保留,而是整体下线。这个决策用一个四象限就能讲清楚——横轴是合规成本,纵轴是商业价值:

  • 高价值、低合规成本:办公Agent、搜索、编程助手——重点投入,这也是大厂现在的主战场
  • 高价值、高合规成本:情感陪伴独立产品——不放弃,但装进独立App做风险隔离,字节的猫箱就是这个位置
  • 低价值、高合规成本:主App里的UGC智能体广场——下线
  • 低价值、低合规成本:顺手整改,保留

豆包、千问的智能体广场恰好落在第三象限。几百万用户自建角色,逐个做身份核验、依赖识别、内容审核,成本极高;而拟人化闲聊又是典型的高频长对话、重算力消耗、单用户价值低的业务。合规评估做完之前,任何一个漏网角色都可能升级成平台级事故,砸的是国民级助手的招牌。

所以这次下线读作放弃赛道就错了。大厂下线的是主App里的功能,情感陪伴业务被转移到了独立App里单独建合规体系——主品牌保持工具定位,敏感业务隔离运营,出问题不烧到主阵地。这套打法和当年游戏业务的处理方式几乎一致。

创业App怎么办:7月15日前的整改清单

对星野、筑梦岛这类以陪伴为主业的创业产品,没有下线可躲,只能正面合规。距离生效日还有11天,按优先级排:

  1. 1. AI身份标识:显著提示用户在和AI互动,生成内容打标——成本最低,最先查
  2. 2. 未成年人核验与未成年人模式:虚拟亲密关系服务对未成年人直接关闭入口;14岁以下接入监护人同意流程
  3. 3. 时长提醒与依赖识别:2小时弹窗是硬指标;依赖倾向的识别模型和动态提醒机制要上线
  4. 4. 拟人化场景的内容策略:在通用内容安全之外,单独建一套针对情感交互的规则——极端情绪识别、安抚话术、紧急联系人机制,这套流程要能在监管检查时拿得出来
  5. 5. 数据合规:训练数据的单独同意弹窗、交互数据删除入口、第三方共享排查
  6. 6. 算法备案与安全评估:月活过10万的产品,评估报告要主动交
  7. 7. 退出与申诉:退出不挽留,投诉有时限

这张清单对不同体量的团队,分量完全不同。对大厂是一个季度的排期;对二十人的创业团队,核验系统、审核团队、评估报告是一笔沉重的固定成本。合规成本对营收的占比与团队规模成反比,这会直接推高行业集中度——靠买量和擦边人设起量的小产品,这一轮会被洗出去。

还有一个更深层的变化,藏在「过度迎合、诱导依赖」这一条里。AI陪伴产品过去的优化目标是留存和时长,星野的用户单日使用一度超过80分钟,业内引以为傲。新规之下,最大化情感黏性的交互设计本身就可能构成违规——用户时长从北极星指标变成了风险指标。这对产品方法论的冲击,比任何一条具体义务都大。

政策同时留了明确的口子:《办法》鼓励拟人化服务向文化传播、适幼照护、适老陪伴、特殊人群支持等方向发展。虚拟恋人受限,银发陪伴被鼓励——转型方向写在条文里了。

几个判断

最后说四点看法。

第一,这条赛道的竞争门槛换了。之前拼模型能力和人设运营,之后拼的是身份核验、内容审核、风险干预这套合规基建。门槛换了,受益者也换了——有成熟审核体系的大厂独立App和头部创业公司,反而拿到了确定性。

第二,通用助手和陪伴产品会彻底分流。国民级AI助手会刻意维持工具属性,甚至在模型层阻止未成年人通过角色扮演建立情感互动;陪伴业务走独立App、独立合规的路线。参照游戏防沉迷的演化路径,这个格局会长期固定下来。

第三,这套框架会被全球参考。欧盟刚对Replika开出500万欧元罚单,美国的同类产品也在诉讼压力下收紧未成年人政策。中国这套分类分级、未成年人保护加防依赖的组合拳是全球第一个成体系的方案,大概率成为其他司法辖区的模板。

第四,需求不会消失。行业测算这个市场未来几年仍在高速增长,孤独感驱动的陪伴需求真实存在。监管改变的是供给方式:从流量生意变成重合规的持牌生意。而牌照生意的老规律是——门槛淘汰的是跨不过去的人,保护的是跨过去的人

7月15日只是开始。接下来最值得盯的是生效后的第一批执法案例——它们会划出这条赛道未来几年的实际边界。

【声明】内容源于网络
0
0
AI Reading Hub
All in AI,看见未来。 每天精选最值得读的AI文章,帮你筛掉时代的噪音。 以简讯见广度,以深读见洞察。 技术、趋势、思考,一站式掌握AI世界。
内容 296
粉丝 0
AI Reading Hub All in AI,看见未来。 每天精选最值得读的AI文章,帮你筛掉时代的噪音。 以简讯见广度,以深读见洞察。 技术、趋势、思考,一站式掌握AI世界。
总阅读869
粉丝0
内容296