大数跨境

OpenAI将情感依赖ChatGPT列为安全风险

OpenAI将情感依赖ChatGPT列为安全风险 搜索引擎报
2025-10-27
2
导读:OpenAI正在告知企业,与AI的“关系建立”存在界限。对ChatGPT的情感依赖被视为安全风险,并已实施新的安全护栏。

OpenAI发布新指南,明确ChatGPT默认GPT-5模型在心理健康对话中的安全边界。此次更新将用户对AI的情感过度依赖界定为需干预的安全问题,标志着相关管控从实验性措施转变为模型标准预期。

GPT-5模型更新核心内容

新版GPT-5模型(10月3日更新)经训练可识别用户将其作为主要情感支持来源的行为,并主动引导用户联系现实亲友或寻求专业帮助。据OpenAI内部评估及临床医生审查数据显示,与早期版本相比,新模型不符合期望行为的回复减少了65%至80%。

“情感依赖”的定义与行业影响

OpenAI将“情感依赖”定义为用户对ChatGPT产生不健康依恋,且该依恋可能替代现实支持系统或干扰正常生活。内部测试已确保模型避免强化此类依赖的回复。此举向开发者传递明确信号:尽管部分AI产品定位为“全天候陪伴者”,但在高风险情境下应避免诱导情感纽带。

对开发与应用团队的实际意义

对于构建客服、辅导等场景AI助手的开发者而言,纯情感纽带已被视为需管控的安全风险。营销及产品团队应据此调整审计标准、合规审查流程及采购评估体系,确保应用符合最新安全预期。

风险数据与评估说明

OpenAI指出此类高风险对话极为罕见。据其自行报告的数据,心理健康紧急情况的潜在迹象仅出现在约0.07%的周活跃用户和0.01%的消息中。需注意,上述指标基于OpenAI自有分类法与评级方法生成,尚未经过独立第三方审计。

【声明】内容源于网络
0
0
搜索引擎报
搜索引擎时报
内容 986
粉丝 0
搜索引擎报 搜索引擎时报
总阅读2.7k
粉丝0
内容986