随着人工智能模型应用领域的不断扩展，其在心理健康对话中的回应方式日益受到重视。用户常就日常压力、人际关系或更严重的心理问题向AI寻求帮助，这使得模型在不同情境下提供正确且安全的回答显得尤为重要。
MentalHealthBench评估工具发布
OpenAI为衡量该领域表现，开发了名为MentalHealthBench的新型比较评估工具。该工具由OpenAI与来自22个国家的80名心理健康专家共同研发并已公开发布，旨在全面评估AI模型在危机时刻及各类场景下的回应能力。
多维度场景与安全行为考察
评估涵盖日常压力、生活难题及严重心理健康问题等多种场景，重点考察模型在保障安全性、必要时追问信息、尊重用户自主权以及提供可行建议等方面的行为表现。评估对象包括成年人、青少年、照护者和临床医生，场景设置兼顾低/高严重程度及紧急心理危机情况。
此外，评估还纳入了不同语言和地区的使用差异。据OpenAI称，结果显示AI模型在辅助应对心理健康问题方面已取得进步。
AI不能替代专业治疗
OpenAI在博客中强调，ChatGPT无法替代专业治疗或心理健康服务。公司指出，当模型识别到用户需求超出能力范围时，将其引导至现实生活中的支持资源及可信赖的人员至关重要。
图片：OpenAI