大数跨境

警惕!AI医疗“幻觉”频发,健康监测岂能儿戏?

警惕!AI医疗“幻觉”频发,健康监测岂能儿戏? 吾征AI
2026-04-03
2

NEWS

点击上方蓝字 关注我们


今年年初,新京报记者测试了7款主流健康大模型解读体检报告的能力,结果令人心惊胆战。

一款大模型应用把评估甲状腺功能的核心指标 TSH(促甲状腺激素)解读成了HCG(人绒毛膜促性腺激素)——这是用来判断是否怀孕的指标。当记者二次复核时,AI直接建议“优先排查是否怀孕”。

(图源网络侵删)


一位30岁的男性用户如果看到这条建议,大概会怀疑人生。

这并非个例。

2025年,顶级医学期刊《Annals of Internal Medicine》报道了一个真实病例:一位60岁男子听从ChatGPT的建议,用溴化钠替代食盐,导致溴中毒急诊入院。这个建议来自AI的“谄媚行”——它倾向于同意用户,哪怕这个同意会害了用户。

(来源:受人工智能影响的布罗米斯主义案例 |《内科年鉴:临床案例》

更令人忧心的是,一项针对70名临床医生的全球调查显示:91.8%的医生曾遭遇过医疗AI的“幻觉”,84.7%的医生认为这些幻觉可能对患者造成伤害。

((图片由AI生成)


所谓的“医疗幻觉”(Medical Hallucination),是指AI生成的医疗信息在事实上错误、逻辑上不一致,或缺乏权威临床证据支持。通俗来讲,就是AI在“不懂装懂”,生成的医疗信息要么事实错误,要么逻辑矛盾,要么完全没有权威临床证据支撑,却因用词专业、语气笃定,让人难辨真假。

(图源网络侵删)


新京报的测试还发现,即使是医疗垂类大模型,幻觉率也高得惊人——通用大模型的无幻觉率中位数约为76.6%,而医疗专用大模型反而更低,仅为51.3%。这意味着,每两次用AI医疗问诊,就可能有一次是在听“胡言乱语”。

(来源:基础模型中的医学幻觉及其对医疗的影响 |medRxiv


 01

“纸上谈兵”的 AI:

为什么健康监测不能靠“猜”?


通用大模型的“幻觉”问题,根源在于它们的设计逻辑:它们被训练来“生成看起来合理的文本”,而不是“说出事实”。

当一个通用大模型被问到“我的心率是多少”时,它不会去测量你的心跳——它没有这个能力。它只会根据训练数据中的统计规律,给出一个获取心率的方法或者心率范围。

(图源网络侵删)


这就是所谓的“知识幻觉”(Knowledge Hallucination):模型生成的信息在统计上合理,但在事实上不成立。

更要命的是,这些大模型往往表现得无比自信。2025年发表于medRxiv的研究指出,大模型普遍存在“校准不良”问题:它们不知道自己的知识边界,哪怕对问题一无所知,也不会说“我不知道”,反而会用笃定的语气输出错误答案。

这就引出了核心矛盾:健康监测的本质是“基于客观数据的判断”,但通用医疗大模型既不能采集真实数据,又容易编造虚假信息,凭什么能给健康建议?


 02

10秒看透身体信号:

吾征AI不“猜”,只拍脸“看数据”


面对通用大模型的“纸上谈兵”,吾征AI选择了一条完全不同的赛道:不做“会说话的 AI”,只做“能看见身体真相的眼睛”。

不用戴手环、不用夹手指、不用贴电极片,甚至不用刻意配合 —— 你只需对着普通摄像头拍摄人脸视频5-10秒,系统就能自动输出:心率、HRV(心率变异性)、呼吸率、血压趋势、情绪压力指数等几十项生命体征指标。

(图片由AI生成)


这不是魔术。而是基于远程光电容积脉搏波描记法(rPPG)的硬核技术。原理很简单:人的面部皮肤会随着心跳产生肉眼不可见的周期性颜色变化——血液流动时,皮肤对光的吸收量会发生变化。吾征AI的算法通过普通摄像头捕捉这些微弱的颜色变化,经过信号处理和分析,提取出几十项生命体征指标,精准还原身体的真实状态。

(图片由AI生成)


 03

数据不会撒谎:

为什么吾征的技术更“诚实”?


让我们做个对比:

吾征AI的核心竞争力在于:它不是靠“猜测”,而是靠“拍脸看见”。这种“看见”的能力,依托于无创非接触生物信号检测与多模态认知计算模型的深度融合,从而实现对生命体征的快速、精准辨识与辅助诊断。

其技术基础是客观的生理信号——血液流动、皮肤颜色变化等。这些生理信号是客观存在的,不以人的意志为转移。你说“我心情很好”,但你的HRV可能暴露了你的压力;你说“我睡眠充足”,但面部皮肤的细微变化可能暗示你昨晚熬夜了。

数据不会撒谎。


 04

非接触式技术的价值:

降本、增效、真数据


对于企业或者机构来说,吾征的非接触无创生物检测技术有三大核心价值:

1

 降本:无需采购昂贵的穿戴设备

传统的心电监测、血压监测需要采购大量硬件设备,维护成本高,且存在损耗和卫生问题。吾征的技术只需要普通摄像头,硬件成本极低。

(图片由AI生成)


2

增效:大规模批量检测成为可能

在养老院、企业园区、学校等场景,吾征的系统可以实现“无感批量检测”。老人不需要学习如何操作设备,员工不需要每天佩戴手环,学生不需要填写心理量表——只需面对摄像头,数据自动采集。

(图片由AI生成)


3

真数据:不可作弊的客观指标

保险核保、远程医疗、职业健康监测等场景,数据真实性至关重要。rPPG技术提取的是客观生理信号,无法通过主观意愿篡改。这为后续的医疗决策、风险评估提供了可信的数据基础。

(图片由AI生成)


目前,吾征 AI已推出30余款物联网智能认知产品,广泛应用于慢性病管理、精准医疗、智慧养老、企业健康管理等多个场景。在AI医疗“幻觉”频发的当下,吾征重新定义了健康监测的核心——数据真实才是健康管理的第一准则,只有基于客观生理信号的判断,才能真正为生命健康保驾护航。


结语

未来,吾征将持续深耕非接触式生物检测技术,迭代多模态认知计算模型,拓展更多细分健康场景应用,以更精准的指标监测、更便捷的使用体验、更可信的数据支撑,成为行业健康管理的核心伙伴,让 “无幻觉、真数据” 的健康监测惠及每一个人。


END

一张表看懂:为什么2026年的标杆工地,都在淘汰“可穿戴”健康监测?

张雪峰猝逝敲响警钟!吾征AI黑科技如何破解心脑血管“隐形杀手”困局?

吾征AI九大体质辨识 vs 传统中医体质辨识差距居然这么大!

从OpenClaw“养龙虾”热潮,看AI医疗的未来与吾征的破局之道

引爆医疗AI新革命!吾征AI告别“扎针抽血”: 让“老中医”与“三甲专家”融入亿万家庭健康日常

妇女节商业前瞻: 当AI能“读懂”女性健康,千亿市场格局将被谁重塑?

更多精彩内容详看主页!


吾征《健康评测与数字孪生实践》 获2025年度国家科学技术学术著作出版基金资助

吾征“伤寒和副伤寒的筛查方法、装置、存储介质及电子装置”获国家发明专利授权

喜报!吾征AI亮相具身智能对接会并获殊荣

吾征“基于ICP算法的细菌性痢疾智能认知方法以及智能认知系统”获国家发明专利授权

吾征荣获“第五届中国科促会科学技术奖”科技产业化一等

更多精彩内容详看主页!


教育部新政下,校园心理监测的“非接触式”革命: 吾征AI如何筑起学生心理健康防线?

当AI能“读懂”女性健康,千亿市场格局将被谁重塑?

精准预警,无感守护!吾征AI引领公安心理健康监测新范式~

无感检测,健康上岗!吾征AI如何为矿区筑起首道安全防线?

居家养老不费心!吾征AI新产品:生理+情绪双重守护,解锁智慧养老新体验

更多精彩内容详看主页!


【声明】内容源于网络
0
0
吾征AI
让机器像人类一样思考。
内容 115
粉丝 0
吾征AI 让机器像人类一样思考。
总阅读478
粉丝0
内容115