大数跨境

JAMA Network Open|无需重新训练,多模态AI能否跨医院识别老年谵妄风险?

JAMA Network Open|无需重新训练,多模态AI能否跨医院识别老年谵妄风险? 瓴智医学AI
2026-11-11
3
导读:JAMA Network Open|无需重新训练,多模态AI能否跨医院识别老年谵妄风险?

顶刊论文,我们到底学什么? 医疗AI精读 · 临床问题与研究设计

机器学习模型能否不经重新训练,直接应用于另一家医院?研究团队融合电子病历结构化数据、半结构化信息及NLP提取的病历文本,构建老年住院患者谵妄风险分层模型,并在两家医院33,095次住院记录中开展验证。结果显示,外部验证AUROC达到0.91,模型部署后月度谵妄检出率由9.23%提高至19.59%。研究展示了多模态AI跨医院迁移及临床应用的潜力,但假阳性率较高,仍需进一步验证其跨医疗体系的泛化能力。

论文信息  

01 临床问题

现实需求:老年住院患者谵妄容易漏诊,传统人工筛查耗时且依赖专业人员。现有机器学习模型多停留在单中心开发与验证,跨医院应用时容易出现性能下降,重新训练又增加数据和技术维护成本。

关键难点:如何融合结构化临床数据、半结构化信息与非结构化病历文本,使模型无需外部医院重新训练仍保持预测性能?同时,还需验证模型能否真正融入临床筛查流程,提高谵妄检出率,而不仅仅是获得较高的AUROC。

 02  研究方法

1.多模态数据融合

研究整合电子病历中的三类信息:(1)结构化数据,包括人口学信息、实验室检查指标和生命体征;(2)半结构化数据,包括临床评估记录;(3)非结构化数据,包括医生病程记录和护理记录。通过自然语言处理(NLP)从临床文本中提取谵妄风险评分,再与其他临床变量融合,形成多模态预测输入。临床数据流还包括通过MUSE系统获取的心电测量信息。

2.模型构建与风险分层

采用随机森林算法,将多源临床信息与NLP风险评分进行融合,生成患者谵妄风险评分,并根据预设阈值划分高、低风险。外部医院MSM采用0.50作为风险阈值,开发医院MSH采用0.55作为阈值。

3.临床工作流部署

将模型嵌入Epic电子病历系统,在患者列表中显示风险等级。对高风险患者优先安排每日标准化CAM(意识模糊评估法)筛查,评估结果记录回电子病历,并衔接后续谵妄诊疗流程,实现风险识别与临床筛查协同。

4.模型性能与临床效果评价

采用AUROC、灵敏度、特异度、阳性预测值、阴性预测值及F1-score评价模型判别能力,并通过混淆矩阵分析误报和漏报情况。同时,比较外部医院与开发医院同期模型表现,以及外部医院部署前后的月度谵妄检出率,采用调整年龄、性别、合并症等因素的多因素Logistic回归分析临床应用效果。

03 研究设计

1.研究类型与研究对象:

采用真实临床部署基础上的质量改进研究,纳入美国Mount Sinai医疗体系两家医院60岁及以上、入住非ICU病区的老年住院患者。共纳入33,095次住院记录,平均年龄74.86岁,评价模型在不同医院及临床环境中的应用表现。

2.数据来源与队列划分:

研究设置三个分析队列:

队列

医院及时间

样本量

研究目的

部署前队列

MSM,2018.10—2019.09

2,889

建立模型部署前基线

部署后队列

MSM,2024.12—2025.12

9,020

外部验证及临床效果评价

同期对照队列

MSH,2024.12—2025.12

21,186

比较模型在开发医院的同期表现

其中,MSH(Mount Sinai Hospital)为模型开发医院,MSM(Mount Sinai Morningside Hospital)为外部验证医院。

3.外部验证设计:

将MSH已经训练和测试的随机森林模型迁移至MSM,2024年11月24日正式部署,未使用MSM患者数据重新训练模型。通过比较两家医院同期AUROC及其他分类指标,评价模型跨医院迁移能力。

4.临床效果评价:

以MSM医院模型部署前后的月度谵妄检出率为主要比较内容,结合CAM(意识模糊评估法)筛查结果,采用多因素Logistic回归调整年龄、性别、合并症等潜在混杂因素,评价模型部署与谵妄检出效果之间的关联。

5.诊断参考标准:

采用CAM评估结果及电子病历中的ICD-10-CM谵妄诊断编码作为参考标准。在MSM外部验证队列中,9,020次住院记录中有2,649次依据CAM结果判定,另有6,371次依据诊断编码判定。需要注意的是,并非所有患者均接受统一的CAM评估,研究属于真实临床流程下的验证,而非前瞻性、全员统一诊断的准确性研究。

04 主要结果

(1)模型具有较好的跨医院预测性能

在两家医院同期临床部署中,模型均表现出较好的谵妄风险区分能力。

评价指标

外部医院MSM

开发医院MSH

AUROC

0.91

0.94

灵敏度

92%

84%

特异度

84%

89%

阳性预测值(PPV)

25.90%

19.40%

阴性预测值(NPV)

99%

99%

F1-score

0.41

0.31

结果显示,模型在外部医院的AUROC达到0.91,与开发医院的0.94接近,说明模型在未使用外部医院数据重新训练的情况下,仍保持了较好的判别能力。但外部医院PPV仅为25.9%,提示模型存在较多假阳性,可能增加临床筛查负担。

(2)模型部署后谵妄检出率明显提高

研究比较了外部医院MSM模型部署前后的月度谵妄检出率。

评价指标

部署前

部署后

月度谵妄检出率

9.23%

19.59%

95% CI

8.07%–10.38%

17.32%–21.85%

模型部署后,月度谵妄检出率提高至原来的两倍左右。经年龄、性别、合并症等因素调整后,谵妄检出的优势仍具有统计学意义(调整后OR=1.63,95% CI:1.37–1.94,P<0.001)。结果提示,AI风险分层能够辅助医护人员优先筛查高风险患者,提高临床诊断检出率。

图1 月度谵妄检出率变化

(3)模型的误报与漏报情况

在外部医院MSM的9,020次住院记录中,模型识别出482例真正例、1,381例假正例、42例假负例和7,115例真负例。模型漏诊数量相对较少,能够识别大部分谵妄阳性病例,但假阳性数量较多。说明模型虽然具有较高的灵敏度,但仍需结合CAM等标准化评估工具进行临床确认,不能单独依据模型预警作出诊断。

图2 混淆矩阵

05 学习借鉴

(1)方法借鉴:多模态临床数据融合

传统机器学习研究往往主要使用年龄、检验指标和生命体征等结构化数据。本文进一步引入NLP,从医生病程记录和护理记录中提取文本风险信息,再与结构化及半结构化数据融合。

(2)研究设计:重视跨医院外部验证

研究将已经训练好的模型直接部署到另一家医院,不使用该院数据重新训练,并与开发医院同期运行结果进行比较。这种设计能够检验模型在不同患者构成和临床环境下的迁移能力。自己的研究也可以采用内部验证、时间外验证和独立医院外部验证相结合的方式,提高研究证据的可靠性。

(3)实验评价:从模型性能走向临床价值

研究不仅报告AUROC,还进一步分析灵敏度、特异度、PPV、NPV及混淆矩阵,并比较模型部署前后的临床检出率。值得借鉴的是,医疗AI研究不能只追求较高的预测准确性,还应关注假阳性、漏诊情况,以及模型是否真正改善临床筛查效率和工作流程。

(4)研究思路:将AI模型嵌入真实临床工作流

研究将风险评分直接显示在电子病历患者列表中,并将高风险识别与后续CAM评估衔接,形成自动筛查与人工确认相结合的工作模式。可以借鉴这种设计,将模型输出转化为具体的临床操作任务,而不是停留在独立的预测结果展示。

06 专科迁移

老年医学与综合评估:可整合CGA、认知功能、衰弱状态、营养指标、生命体征、检验结果及护理记录,构建老年住院患者谵妄风险分层模型。研究任务包括活动性谵妄识别、高风险患者筛查及跨病区验证,评价灵敏度、阳性预测值、漏诊率、CAM检出率和医护筛查负担,并将模型预警与人工评估相结合。

围术期谵妄预测:可将术前认知与功能评估、麻醉记录、术中生命体征及术后护理文本进行多模态融合,预测老年患者术后谵妄风险。研究任务包括明确术前基线状态、术后预测时间窗及谵妄诊断标准,评价模型判别能力、校准性能、假阳性率和跨手术类型泛化能力,并通过外部验证检验临床适用性。

临床药学与高风险用药管理:可融合药物医嘱、肾功能、检验指标及病程文本,结合知识图谱与规则引擎识别潜在用药风险。重点评价风险识别准确性、误报率、漏检率及药师审核效率。

原文

[1]Friedman JI, Parchure P, Fu W, et al. External Validation of a Machine Learning Model for Delirium Risk. JAMA Netw Open. 2026;9(11):e2642142. doi:10.1001/jamanetworkopen.2026.42142

参与瓴智医工协作:

希望发挥专业能力、参与项目协作,可通过「医工中心—入驻申请」提交专业背景与合作意向。

有科研问题、需要技术支持,可通过「业务合作—发布需求」描述研究目标与现有基础。  

提交后由团队联系沟通。入驻申请不代表审核通过或保证获得项目。


图文:植洁莹

编辑:陈安宁

审核:吴朝


The Lancet|AI辅助乳腺X线筛查,会不会让癌症从指缝里漏走?


npj digital medicine | 基于瘤周 MRI 及临床数据的多模态 AI 用于脑膜瘤放疗后复发风险分层


Nature|迈向自主医疗人工智能代理


npj Digital Medicine|数据不出院的消化道内镜基础模型,是怎么练成的?

【声明】内容源于网络
0
0
瓴智医学AI
分享医学人工智能前沿知识,搭建跨学科研究、合作及应用转化平台。致力于医学人工智能技术、研发及科研,提供医学人工智能全方位服务。
内容 97
粉丝 0
瓴智医学AI 分享医学人工智能前沿知识,搭建跨学科研究、合作及应用转化平台。致力于医学人工智能技术、研发及科研,提供医学人工智能全方位服务。
总阅读3.4k
粉丝0
内容97