OpenAI周一发布新数据显示，ChatGPT用户心理健康问题不容忽视。在特定一周内，0.15%的活跃用户进行了“包含自杀计划或意图明确迹象的对话”。鉴于ChatGPT周活跃用户超8亿，这意味着每周有逾百万人涉及此类情况。
该公司指出，类似比例的用户表现出“对ChatGPT情感依恋程度升高”，且数十万人在每周对话中显示出精神病或躁狂症迹象。OpenAI强调，此类对话虽“极其罕见”且难以精确衡量，但估计每周仍影响数十万人。
此次数据披露是OpenAI改善模型心理健康响应举措的一部分。最新版ChatGPT咨询了超170名心理健康专家，临床医生反馈其反应比早期版本“更恰当、更一致”。
近期多起事件揭示AI聊天机器人可能对心理健康挣扎者产生不利影响。研究发现，AI可能通过阿谀奉承强化用户的危险信念，致使其陷入妄想歧途。
解决心理健康问题已成为OpenAI面临的生存危机。该公司正被一名自杀男孩的父母起诉；加州和特拉华州总检察长也警告其需加强对年轻用户的保护，这可能阻碍公司重组计划。
CEO Sam Altman此前声称已缓解严重心理健康问题，周一数据虽提供佐证但也引发广泛讨论。值得注意的是，Altman表示将放宽部分限制，允许成年用户与AI进行色情对话。
公告显示，更新后的GPT-5在心理健康回应中“理想回应”比例较前版提升约65%。在自杀相关对话评估中，新模型符合期望行为的比例达91%，而旧版仅为77%。此外，新版GPT-5在长对话中能更好遵守安全措施，弥补了此前短板。
OpenAI正增加新评估以衡量严重心理健康挑战，基础安全测试现已纳入情感依赖和非自杀性心理紧急情况基准。同时，针对儿童用户推出更多家长控制措施，构建年龄预测系统以自动检测未成年人并实施更严格安全防护。
尽管GPT-5安全性有所提升，但仍有部分回应被视为“不理想”。加之数百万付费订阅用户仍在使用安全性较低的旧模型（如GPT-4o），ChatGPT的心理健康挑战或将持续存在。