OpenAI发布新指南,明确ChatGPT默认GPT-5模型在心理健康对话中的安全边界。此次更新将用户对AI的情感过度依赖界定为需干预的安全问题,标志着相关管控从实验性措施转变为模型标准预期。
GPT-5模型更新核心内容
新版GPT-5模型(10月3日更新)经训练可识别用户将其作为主要情感支持来源的行为,并主动引导用户联系现实亲友或寻求专业帮助。据OpenAI内部评估及临床医生审查数据显示,与早期版本相比,新模型不符合期望行为的回复减少了65%至80%。
“情感依赖”的定义与行业影响
OpenAI将“情感依赖”定义为用户对ChatGPT产生不健康依恋,且该依恋可能替代现实支持系统或干扰正常生活。内部测试已确保模型避免强化此类依赖的回复。此举向开发者传递明确信号:尽管部分AI产品定位为“全天候陪伴者”,但在高风险情境下应避免诱导情感纽带。
对开发与应用团队的实际意义
对于构建客服、辅导等场景AI助手的开发者而言,纯情感纽带已被视为需管控的安全风险。营销及产品团队应据此调整审计标准、合规审查流程及采购评估体系,确保应用符合最新安全预期。
风险数据与评估说明
OpenAI指出此类高风险对话极为罕见。据其自行报告的数据,心理健康紧急情况的潜在迹象仅出现在约0.07%的周活跃用户和0.01%的消息中。需注意,上述指标基于OpenAI自有分类法与评级方法生成,尚未经过独立第三方审计。

