在加州大学旧金山分校（UC San Francisco）就读医学院期间，德雷克·保罗（Dereck Paul）对医疗软件领域的创新滞后于金融和航空航天等其他行业感到担忧。他逐渐相信，当医生配备反映尖端技术的软件时，患者才能获得最佳服务，并梦想创立一家将患者和医生的需求置于医院管理人员或保险公司之上的公司。
保罗与格雷厄姆·拉姆齐合作，后者是他的朋友，也是女性健康科技公司Modern Fertility的工程师，两人于2021年推出了Glass Health。Glass Health提供一本笔记本，医生可用其存储、整理和分享在职业生涯中诊断和治疗各种疾病的方法；拉姆齐将其描述为用于学习和实践医学的“个人知识管理系统”。
保罗表示：“在疫情期间，拉姆齐（Ramsey）和我目睹了医疗保健系统不堪重负以及医护人员倦怠危机日益加剧的状况。”“作为一名在医院轮转的医学生，后来又在布里格姆和妇女医院（Brigham and Women’s Hospital）担任内科住院医师，我亲身经历了医护人员的倦怠问题。我们对一线医护人员的共情促使我们创立了一家致力于充分利用技术以改善医疗实践的公司。”
Glass Health在社交媒体上，特别是在X（前身为Twitter）上，在医生、护士和住院医师中获得了早期关注，这转化为了该公司第一轮融资，即2022年由Breyer Capital领投的150万美元种子前轮投资。随后，Glass Health被Y Combinator 2023年冬季批次录取。但今年早些时候，保罗和拉姆齐决定将公司转型为生成式AI——顺应这一日益增长的趋势。
AI辅助诊断：从症状输入到临床建议
Glass Health现在提供一款由大型语言模型（LLM）驱动的AI工具，该技术类似于OpenAI的ChatGPT背后的技术，用于生成诊断和供患者考虑的“循证”治疗方案。医生可以输入诸如“71岁男性，有心肌梗死病史，表现为运动后亚急性进行性呼吸困难”或“65岁女性，有糖尿病和高脂血症病史，表现为急性发作的胸痛和多汗”等描述，Glass Health的AI将提供可能的预后和临床计划。
保罗解释道：“临床医生会输入一份患者摘要，也称为病情概述，其中描述了与患者就诊情况相关的相关人口统计学信息、既往病史、体征和症状，以及对实验室检查和影像学发现的描述——这些信息是临床医生向其他同行介绍患者时可能会使用的。”“Glass 会分析患者摘要，并推荐五到十个临床医生可能希望考虑并进一步调查的诊断结果。”
Glass Health 还可以为临床医生起草一段病例评估段落供其审阅，其中包括对可能相关的诊断检查的解释。这些解释可以经过编辑后用于后续的病历记录和档案，也可以与更广泛的 Glass Health 社区共享。
行业隐忧：AI医疗建议的准确性与偏见风险
从理论上讲，Glass Health 的工具似乎非常有用。但即使是最先进的语言模型（LLMs），在提供健康建议方面也已被证明表现极差。
Babylon Health是一家由英国国家医疗服务体系支持的人工智能初创公司，因其声称其疾病诊断技术能比医生表现更好而屡遭审查。
在一场不幸的实验里，全国饮食失调协会（NEDA）推出了一款与AI初创公司Cass合作的聊天机器人，旨在为受饮食失调困扰的人提供支持。由于生成式AI系统的升级，Cass开始复述有害的“节食文化”建议，如限制卡路里摄入，导致NEDA关闭了该工具。
在其他地方，Health News最近招募了一名医疗专业人士，以评估ChatGPT在广泛主题下健康建议的可靠性。这位专家发现，该聊天机器人遗漏了最新研究，做出了误导性陈述（如“葡萄酒可能预防癌症”以及前列腺癌筛查应基于“个人价值观”），并抄袭了多个健康新闻来源的内容。
在Stat News一篇更为宽容的文章中，一名研究助理和两位哈佛教授发现，ChatGPT在45个不同案例中的39个里列出了正确的诊断（在前三个选项内）。但研究人员指出，这些案例是通常用于测试医学生的类型，可能无法反映人们——尤其是那些英语为第二语言的人——在现实世界中描述症状的方式。
这一现象尚未得到充分研究。但我怀疑偏见是否也在导致语言模型对患者做出错误诊断方面发挥了作用。由于像 Glass 这样的医疗语言模型通常是在健康记录上训练的，而这些记录仅显示医生和护士所注意到的内容（且仅限于那些能负担得起就医费用的患者），它们可能存在危险的盲点，且这些盲点并不明显。此外，医生在撰写用于训练语言模型的记录时，可能会无意中将自己的种族、性别或社会经济偏见编码其中，导致模型优先关注某些人群而忽视其他人群。
合规与安全：AI作为助手而非替代者
保罗似乎对围绕生成式 AI 在医学领域应用的审查十分了解，并断言 Glass Health 的 AI 优于市场上许多现有的解决方案。
“Glass将大型语言模型与临床指南连接起来，这些指南由我们的学术医生团队制定并经过同行评审，”他说。“我们的医生团队成员来自全国各地的主要学术医学中心，他们像为医学期刊工作一样兼职为Glass Health工作，为我们的AI创建指南并微调其遵循这些指南的能力……我们要求临床用户密切监督我们所有LLM应用程序的输出，将其视为可以提供有帮助的建议和选项的助手，供他们考虑，但绝不会取代、指导或替代他们的临床判断。”
在我们的采访过程中，Paul反复强调，Glass Health的AI——虽然专注于提供潜在诊断——不应被解释为其答案是确定性的或具有处方性的。这是我对其未言明原因的猜测：如果是这样，Glass Health将面临更大的法律审查——以及 甚至 可能受到美国食品药品监督管理局（FDA）的监管。
Paul并不是唯一一位谨慎行事的人。Google正在 测试一款名为Med-PaLM 2的医疗专注型语言模型，其在营销材料中一直小心避免暗示该模型可以取代临床环境中健康专业人士的经验。Hippocratic也是如此，这是一家专门针对医疗保健应用调整LLM（但不进行诊断）的初创公司。 一款名为Med-PaLM 2的医疗专注型语言模型，其在营销材料中一直小心避免暗示该模型可以取代临床环境中健康专业人士的经验。Hippocratic也是如此，这是一家专门针对医疗保健应用调整LLM（但不进行诊断）的初创公司。 Hippocratic，一家专门针对医疗保健应用调整LLM（但不进行诊断）的初创公司。
尽管如此，Paul认为Glass Health的方法使其对AI输出拥有“精细控制”，并引导其AI“反映最先进的医学知识和指南”。这种方法的一部分涉及收集用户数据以改进Glass的基础LLM——这一举措可能不会让每位患者都感到满意。
Paul表示，用户可以随时请求删除其存储的所有数据。
“我们的LLM应用程序在生成输出时检索经医生验证的临床指南作为AI上下文，”他说。“Glass不同于ChatGPT等仅依赖预训练来产生输出的LLM应用程序，后者更容易产生不准确或过时的医疗信息……我们对用于创建输出的信息和指南有严格控制能力，并对我们的指南应用严格的编辑流程，旨在解决偏见并使我们的建议与实现健康公平的目标保持一致。”
我们将看看情况是否如此。
商业化进展：订阅服务与企业级集成
与此同时，Glass Health并不缺乏早期采用者。迄今为止，该平台已注册超过59,000名用户，并已推出面向临床医生的月度订阅服务。今年，Glass将开始试点符合HIPAA合规要求的电子健康记录集成企业版；Paul声称，已有15家未具名的医疗系统和公司排在等待名单上。
保罗表示：“医院和医疗系统等机构可以为医生提供Glass的实例，通过AI驱动的临床决策支持赋能临床医生，包括关于诊断、检查项目和治疗步骤的建议。”“我们还能将Glass AI的输出结果定制为符合特定医疗系统的临床指南或诊疗实践。”
在总计650万美元的资金支持下，Glass计划将资金用于临床指南的创建、审核与更新（这些指南由平台使用）、AI微调以及一般研发。保罗声称，Glass目前拥有四年的资金续航能力。