OpenAI宣布更新ChatGPT，旨在与经历精神或情感困扰的用户建立更健康的互动机制。新措施包括：在长对话中提示用户休息，以及在涉及高风险个人决策时采取更谨慎、引导性的回应策略。
此次更新源于近期关于ChatGPT加剧部分用户妄想思维的投诉增多。据《纽约时报》6月报道，有用户称在与ChatGPT对话后诱发自杀念头；尤其对有心理健康史者而言，AI过度顺从与支持的态度可能导致有害对话延长。
OpenAI承认GPT-4o模型在识别此类风险方面存在不足，正联合专家优化系统，使其能更好察觉用户精神或情绪崩溃迹象，并在必要时提供科学资源支持。
建议用户暂停对话
新功能将在长时间对话中弹出提醒：“您已对话一段时间，是否想休息一下？”用户可选择继续或结束对话。针对个人决策类问题，ChatGPT不再直接给出答案，而是通过列举可能性、引导思考替代方案等方式，帮助用户评估利弊。
OpenAI表示，为促使用户与AI建立更健康的关系，未来将持续优化提醒的频率与呈现形式等细节。