
机器学习模型能否不经重新训练,直接应用于另一家医院?研究团队融合电子病历结构化数据、半结构化信息及NLP提取的病历文本,构建老年住院患者谵妄风险分层模型,并在两家医院33,095次住院记录中开展验证。结果显示,外部验证AUROC达到0.91,模型部署后月度谵妄检出率由9.23%提高至19.59%。研究展示了多模态AI跨医院迁移及临床应用的潜力,但假阳性率较高,仍需进一步验证其跨医疗体系的泛化能力。
论文信息
01 临床问题
现实需求:老年住院患者谵妄容易漏诊,传统人工筛查耗时且依赖专业人员。现有机器学习模型多停留在单中心开发与验证,跨医院应用时容易出现性能下降,重新训练又增加数据和技术维护成本。
关键难点:如何融合结构化临床数据、半结构化信息与非结构化病历文本,使模型无需外部医院重新训练仍保持预测性能?同时,还需验证模型能否真正融入临床筛查流程,提高谵妄检出率,而不仅仅是获得较高的AUROC。
02 研究方法
1.多模态数据融合
研究整合电子病历中的三类信息:(1)结构化数据,包括人口学信息、实验室检查指标和生命体征;(2)半结构化数据,包括临床评估记录;(3)非结构化数据,包括医生病程记录和护理记录。通过自然语言处理(NLP)从临床文本中提取谵妄风险评分,再与其他临床变量融合,形成多模态预测输入。临床数据流还包括通过MUSE系统获取的心电测量信息。
2.模型构建与风险分层
采用随机森林算法,将多源临床信息与NLP风险评分进行融合,生成患者谵妄风险评分,并根据预设阈值划分高、低风险。外部医院MSM采用0.50作为风险阈值,开发医院MSH采用0.55作为阈值。
3.临床工作流部署
将模型嵌入Epic电子病历系统,在患者列表中显示风险等级。对高风险患者优先安排每日标准化CAM(意识模糊评估法)筛查,评估结果记录回电子病历,并衔接后续谵妄诊疗流程,实现风险识别与临床筛查协同。
4.模型性能与临床效果评价
采用AUROC、灵敏度、特异度、阳性预测值、阴性预测值及F1-score评价模型判别能力,并通过混淆矩阵分析误报和漏报情况。同时,比较外部医院与开发医院同期模型表现,以及外部医院部署前后的月度谵妄检出率,采用调整年龄、性别、合并症等因素的多因素Logistic回归分析临床应用效果。
03 研究设计
1.研究类型与研究对象:
采用真实临床部署基础上的质量改进研究,纳入美国Mount Sinai医疗体系两家医院60岁及以上、入住非ICU病区的老年住院患者。共纳入33,095次住院记录,平均年龄74.86岁,评价模型在不同医院及临床环境中的应用表现。
2.数据来源与队列划分:
研究设置三个分析队列:
队列 |
医院及时间 |
样本量 |
研究目的 |
部署前队列 |
MSM,2018.10—2019.09 |
2,889 |
建立模型部署前基线 |
部署后队列 |
MSM,2024.12—2025.12 |
9,020 |
外部验证及临床效果评价 |
同期对照队列 |
MSH,2024.12—2025.12 |
21,186 |
比较模型在开发医院的同期表现 |
其中,MSH(Mount Sinai Hospital)为模型开发医院,MSM(Mount Sinai Morningside Hospital)为外部验证医院。
3.外部验证设计:
将MSH已经训练和测试的随机森林模型迁移至MSM,2024年11月24日正式部署,未使用MSM患者数据重新训练模型。通过比较两家医院同期AUROC及其他分类指标,评价模型跨医院迁移能力。
4.临床效果评价:
以MSM医院模型部署前后的月度谵妄检出率为主要比较内容,结合CAM(意识模糊评估法)筛查结果,采用多因素Logistic回归调整年龄、性别、合并症等潜在混杂因素,评价模型部署与谵妄检出效果之间的关联。
5.诊断参考标准:
采用CAM评估结果及电子病历中的ICD-10-CM谵妄诊断编码作为参考标准。在MSM外部验证队列中,9,020次住院记录中有2,649次依据CAM结果判定,另有6,371次依据诊断编码判定。需要注意的是,并非所有患者均接受统一的CAM评估,研究属于真实临床流程下的验证,而非前瞻性、全员统一诊断的准确性研究。
04 主要结果
(1)模型具有较好的跨医院预测性能
在两家医院同期临床部署中,模型均表现出较好的谵妄风险区分能力。
评价指标 |
外部医院MSM |
开发医院MSH |
AUROC |
0.91 |
0.94 |
灵敏度 |
92% |
84% |
特异度 |
84% |
89% |
阳性预测值(PPV) |
25.90% |
19.40% |
阴性预测值(NPV) |
99% |
99% |
F1-score |
0.41 |
0.31 |
结果显示,模型在外部医院的AUROC达到0.91,与开发医院的0.94接近,说明模型在未使用外部医院数据重新训练的情况下,仍保持了较好的判别能力。但外部医院PPV仅为25.9%,提示模型存在较多假阳性,可能增加临床筛查负担。
(2)模型部署后谵妄检出率明显提高
研究比较了外部医院MSM模型部署前后的月度谵妄检出率。
评价指标 |
部署前 |
部署后 |
月度谵妄检出率 |
9.23% |
19.59% |
95% CI |
8.07%–10.38% |
17.32%–21.85% |
模型部署后,月度谵妄检出率提高至原来的两倍左右。经年龄、性别、合并症等因素调整后,谵妄检出的优势仍具有统计学意义(调整后OR=1.63,95% CI:1.37–1.94,P<0.001)。结果提示,AI风险分层能够辅助医护人员优先筛查高风险患者,提高临床诊断检出率。
图1 月度谵妄检出率变化
(3)模型的误报与漏报情况
在外部医院MSM的9,020次住院记录中,模型识别出482例真正例、1,381例假正例、42例假负例和7,115例真负例。模型漏诊数量相对较少,能够识别大部分谵妄阳性病例,但假阳性数量较多。说明模型虽然具有较高的灵敏度,但仍需结合CAM等标准化评估工具进行临床确认,不能单独依据模型预警作出诊断。
图2 混淆矩阵
05 学习借鉴
(1)方法借鉴:多模态临床数据融合
传统机器学习研究往往主要使用年龄、检验指标和生命体征等结构化数据。本文进一步引入NLP,从医生病程记录和护理记录中提取文本风险信息,再与结构化及半结构化数据融合。
(2)研究设计:重视跨医院外部验证
研究将已经训练好的模型直接部署到另一家医院,不使用该院数据重新训练,并与开发医院同期运行结果进行比较。这种设计能够检验模型在不同患者构成和临床环境下的迁移能力。自己的研究也可以采用内部验证、时间外验证和独立医院外部验证相结合的方式,提高研究证据的可靠性。
(3)实验评价:从模型性能走向临床价值
研究不仅报告AUROC,还进一步分析灵敏度、特异度、PPV、NPV及混淆矩阵,并比较模型部署前后的临床检出率。值得借鉴的是,医疗AI研究不能只追求较高的预测准确性,还应关注假阳性、漏诊情况,以及模型是否真正改善临床筛查效率和工作流程。
(4)研究思路:将AI模型嵌入真实临床工作流
研究将风险评分直接显示在电子病历患者列表中,并将高风险识别与后续CAM评估衔接,形成自动筛查与人工确认相结合的工作模式。可以借鉴这种设计,将模型输出转化为具体的临床操作任务,而不是停留在独立的预测结果展示。
06 专科迁移
老年医学与综合评估:可整合CGA、认知功能、衰弱状态、营养指标、生命体征、检验结果及护理记录,构建老年住院患者谵妄风险分层模型。研究任务包括活动性谵妄识别、高风险患者筛查及跨病区验证,评价灵敏度、阳性预测值、漏诊率、CAM检出率和医护筛查负担,并将模型预警与人工评估相结合。
围术期谵妄预测:可将术前认知与功能评估、麻醉记录、术中生命体征及术后护理文本进行多模态融合,预测老年患者术后谵妄风险。研究任务包括明确术前基线状态、术后预测时间窗及谵妄诊断标准,评价模型判别能力、校准性能、假阳性率和跨手术类型泛化能力,并通过外部验证检验临床适用性。
临床药学与高风险用药管理:可融合药物医嘱、肾功能、检验指标及病程文本,结合知识图谱与规则引擎识别潜在用药风险。重点评价风险识别准确性、误报率、漏检率及药师审核效率。
原文
[1]Friedman JI, Parchure P, Fu W, et al. External Validation of a Machine Learning Model for Delirium Risk. JAMA Netw Open. 2026;9(11):e2642142. doi:10.1001/jamanetworkopen.2026.42142
参与瓴智医工协作:
希望发挥专业能力、参与项目协作,可通过「医工中心—入驻申请」提交专业背景与合作意向。
有科研问题、需要技术支持,可通过「业务合作—发布需求」描述研究目标与现有基础。
提交后由团队联系沟通。入驻申请不代表审核通过或保证获得项目。
编辑:陈安宁
审核:吴朝

The Lancet|AI辅助乳腺X线筛查,会不会让癌症从指缝里漏走?
npj digital medicine | 基于瘤周 MRI 及临床数据的多模态 AI 用于脑膜瘤放疗后复发风险分层
Nature|迈向自主医疗人工智能代理
npj Digital Medicine|数据不出院的消化道内镜基础模型,是怎么练成的?

