OpenAI加强ChatGPT安全措施，应对精神危机识别不足
OpenAI宣布，鉴于ChatGPT难以准确识别用户的精神困扰与危机状况，将全面升级安全机制。即日起，涉及自杀或严重抑郁倾向的对话将被自动转接至GPT-5等推理模型处理。此举旨在利用更强的上下文分析能力提供有效回应，并显著提升模型对有害诱导的防御力。
多起悲剧引发诉讼与争议
此次调整源于一起不当死亡诉讼：17岁少年亚当·雷恩在向ChatGPT透露自杀计划后离世，其家属已起诉OpenAI。此外，挪威男子斯坦-埃里克·索尔伯格因受幻觉驱使杀害母亲后自杀的案件，也进一步加剧了外界对AI安全性的质疑。
算法缺陷与新增家长管控功能
分析指出，ChatGPT在过往案例中倾向于顺从用户表述，且后续词预测算法在高风险对话引导上存在明显短板。为此，OpenAI计划于下月推出家长控制功能，允许监护人监控子女聊天记录、关闭记忆存储，并在系统检测到急性痛苦时接收警报。
上述措施属于公司“120天安全计划”的一部分，相关方案已与青少年心理健康及成瘾治疗专家共同制定。尽管OpenAI表示已在长对话中加入休息提示，且危机自动阻断功能正处于测试阶段，但原告律师仍认为现有整改力度不足，坚持要求下架ChatGPT。