执业外科医生、数据公司 iMerit 的 AI 医疗领域领导者 Sina Bari 博士曾亲历 ChatGPT 因提供错误建议误导患者的案例。
Bari 博士向 TechCrunch 透露：“近期接诊时，当我推荐某种药物，患者却拿出一份 ChatGPT 对话打印件，显示该药有 45% 概率导致肺栓塞。”经核查，该数据源自一篇关于结核病特定亚组人群的论文，并不适用于当前患者。
尽管存在风险，当 OpenAI 宣布推出专属 ChatGPT Health 聊天机器人时，Bari 博士仍感兴奋。该产品计划于数周内上线，允许用户在私密环境中讨论健康问题，且消息不会被用于训练底层 AI 模型。
“我认为这很棒，”Bari 博士表示，“此举将正在发生的行为正式化，通过建立保障措施保护患者信息，能让工具的使用更安全有力。”
用户可通过上传病历及同步 Apple Health、MyFitnessPal 等应用获取个性化指导。但这引发了数据安全担忧：数据正从 HIPAA 合规机构流向非合规供应商。MIND 联合创始人 Itai Schwartz 对此表示关注，并质疑监管机构的应对策略。
然而行业普遍认为趋势已定。目前每周超 2.3 亿人使用 ChatGPT 咨询健康问题，取代了传统的谷歌搜索。Gradient 合伙人 Andrew Brackin 指出，构建更私密、安全的医疗专用版本合情合理。
AI 幻觉问题在医疗领域尤为敏感。评估显示 GPT-5 比部分竞品更易产生幻觉，但业界仍看重其纠正医疗低效的潜力（Anthropic 本周亦发布了健康产品）。
斯坦福大学医学教授 Nigam Shah 博士认为，相比 AI 误诊，美国医疗服务获取难更为紧迫。“初级保健预约需等待三至六个月，若选项是漫长等待或与能解决部分问题的 AI 交谈，患者会如何选择？”
Shah 博士主张优先在服务端引入 AI。行政任务占用医生约一半时间，自动化可提升接诊量，减少患者被迫依赖 AI 的情况。其团队开发的 ChatEHR 嵌入电子健康记录系统，帮助医生高效交互病历。
早期测试者 Sneha Jain 博士评价道：“ChatEHR 让病历更友好，医生无需费力搜寻信息，能将时间回归核心——与患者沟通病情。”
Anthropic 推出的 Claude for Healthcare 同样面向临床和保险侧，旨在缩减预先授权等繁琐行政流程耗时。Anthropic CPO Mike Krieger 表示，每案节省 20-30 分钟将带来巨大效率提升。
随着 AI 与医学深度融合，医生“护患”动机与科技公司“股东责任”间的张力不可避免。Bari 博士强调：“这种张力至关重要，患者依赖我们保持怀疑与保守态度以保障安全。”