在医疗系统不堪重负、候诊名单漫长且成本不断上升的背景下，许多人转向使用ChatGPT等AI聊天机器人进行自我诊断。调查显示，约六分之一的美国成年人每月至少一次通过聊天机器人获取健康建议。
然而，牛津大学主导的最新研究指出，过度依赖聊天机器人存在风险，部分原因在于用户难以确定应提供哪些信息以获得最佳建议。
双向沟通破裂：AI未能提升决策质量
“这项研究揭示了一种双向沟通的破裂，”牛津互联网研究所研究生课程主任、该研究共同作者亚当·马迪（Adam Mahdi）表示，“使用聊天机器人的用户并未比依赖在线搜索或自身判断等传统方法的用户做出更好的决策。”
研究招募了约1,300名英国参与者，向其提供医生撰写的医疗场景，要求识别潜在健康状况并制定行动方案（如就医）。参与者使用了GPT-4o、Cohere Command R+及Meta Llama 3等模型。
结果显示，聊天机器人不仅降低了参与者识别相关健康状况的可能性，还使其更倾向于低估病情的严重程度。马迪指出，用户在提问时常遗漏关键细节，或收到难以解读的回答。
“回复经常将好建议与坏建议混杂在一起，”他补充道，“目前的评估方法未能反映出与人类用户互动的复杂性。”
科技巨头布局AI医疗 vs 专业界审慎态度
尽管科技公司正积极推动AI改善健康结果——苹果开发运动饮食睡眠建议工具、亚马逊分析医疗数据库中的“健康社会决定因素”、微软构建患者消息分类AI——但专业人士和患者对AI应用于高风险健康领域仍持保留态度。
TechCrunch此前报道指出，美国医学会不建议医生使用ChatGPT等辅助临床决策；OpenAI等主要AI公司也警告，不应基于聊天机器人输出进行诊断。
Mahdi强调：“我们建议在进行医疗决策时依赖可靠信息来源。就像新药临床试验一样，聊天机器人系统在部署前应在现实世界中进行测试，因为现有评估方法无法反映真实交互的复杂性。”