医学领域中，每种疾病与每位患者均具独特性。部分疾病的诊疗过程复杂，单一算法难以完全胜任，仍需医疗专业人员结合智慧与经验，综合评估患者的个体特征、病史及症状。
尽管人工智能在疾病诊断和医学判断中作用显著，但在精准捕捉和理解疾病独特性方面仍存在局限。
ChatGPT癌症治疗建议存在误导风险
本月发表于《JAMA Oncology》的一项研究指出，OpenAI旗下ChatGPT模型在癌症治疗领域可能提供误导性乃至无用信息。研究人员对比了ChatGPT的回答与美国国家综合癌症网络（NCCN）指南，发现该AI聊天机器人倾向于给出关于治疗选择的错误或不恰当建议。
研究数据：超三成建议不符指南，部分信息纯属捏造
研究中，研究人员针对肺癌、前列腺癌及乳腺癌等提出了104个问题。结果显示：
- ChatGPT生成不符合NCCN指南的治疗建议比例高达34.3%；
- 在104个回答中，有13个完全是捏造的，即相关信息为随机生成。
达纳-法伯癌症研究所研究员丹妮尔·比特曼（Danielle Bitterman）表示，虽然ChatGPT的回答看似人性化且令人信服，但“鉴于临床决策的复杂性，每位患者都有独特需求”，AI无法完全替代专业判断。
结论：AI仅作辅助，医疗决策仍需专家主导
大型语言模型虽能回答复杂问题，但在医疗咨询等关乎生命的敏感领域，其提供的错误信息可能导致患者接受不当治疗。因此，人工智能技术应仅作为支持和优化医疗专家决策的工具，绝不能忽视专业监督及人为因素的关键作用。