学术 | 人工智能在医疗领域的应用与相关法律问题

人工智能（artificial intelligence），简称AI，是以计算机科技为基础，通过整合、分析大量数据信息，由算法主导，并能够进行自主学习、自主判断，可以看作是对人工智能的模拟、延伸及拓展的复杂处理系统。

1.智能影像诊断

智能影像分析是人工智能应用于医疗领域最早的方向。传统影像分析是医生通过对影像观察、分析、判断等过程完成的，往往存在着医生水平不足无法准确判断影像、耗时过长、效率过低等弊端。智能影像分析通过事先输入的大量医疗影像数据为数据支撑、整合先进的统计分析算法，能够准确地识别患者的影像信息，向医生提供详细的医疗领域数据信息、并标注出特异性结构，方便医生作出疾病诊断。智能影像分析能够大大提高筛查效率，减少误诊、漏诊率，节约医生与患者时间，提高医院接诊能力。

2.智能语音电子病历

传统的病历是由医生手动输入患者相关医疗信息形成的，手动输入一般发生在医生与患者交流过程，往往存在着时间长、效率低、影响医患交流等弊端。而智能电子语音病历是依托人工智能技术，以庞大的医疗知识图谱做数据支撑，可以接收、识别、分析、理解人的语音信号，转化成文字且对获取到的信息进行分析，最终转化成电子病历的系统。智能语音电子病历能够极大地提高医生工作效率，能让医生更专注地与病人交谈，更好地诊断疾病。同时，该系统能详细完整记录患者的病情描述，并给予医生相应的疾病分析、疾病诊断、用药建议。智能语音电子病历也能有效避免医生失误，系统会分析用药方案的合理性，提醒医生超剂量、配伍禁忌、中药“十七畏十八反”等用药禁忌。但是，该技术目前也存在着较大的技术挑战，如医疗知识技术图谱的准确度、调用度，降噪技术与方言识别等技术问题。

3.智能就医导诊系统

预问诊。患者向手机app或智能医疗小程序内的智能导诊助手描述自身病症，导诊系统便会向患者推荐挂号科室与预测的疾病，帮助患者更方便挂号与预先了解自身疾病。

院内导诊。智能就医导诊系统能为患者就医全过程提供便利，流程更加透明。从患者踏入医院的第一步，导诊系统便能发挥作用，它能够准确地告诉患者相应科室、相应医生的位置，就诊完成后也能为患者提供检查室导航、线上缴费、线上报告显示、报告分析、药物介绍与使用说明等服务，让患者更了解就医全过程与自身病情。

4.智能医疗机器人

目前国内外智能医疗机器人发展迅猛，已经有不少智能医疗机器人登上临床治疗领域，还有许多目前还在研发和试验的医疗机器人，如目前比较成熟的达芬奇机器人手术系统、ET医疗大脑人工智能系统。这些医疗机器人有的可以智能参与手术主要过程，有的起着辅助作用。成熟的机器人系统能够起到规范手术过程，严格把握手术质量的作用，同时有一些比较精细的手术也只能由机器人来完成，从而延伸了临床医生的能力。

5.远程医疗

远程医疗包括远程会诊、远程治疗、远程护理、远程手术等手术模式，其中最亮眼的便是远程医疗机器人手术。依托于5G通信技术的普及与人工智能技术的应用，使得医疗手术能够跨越几千公里、低延迟地实施。如2019年3月，中国人民解放军总医院成功进行了世界首例5G远程控制颅脑手术——帕金森“脑起搏器”植入术。2023年，杭州浙大邵逸夫医院完成了全球首例5G超远程国产机器人肝胆手术，在浙江对新疆地一名患者实施胆囊切除手术。

1.日常生活管理

如今手机上有许多健康app（如Health book、悦动圈）以及各种智能穿戴设备（智能手表、智能手环等）。通过自身输入每日信息，或者设备获取日常身体数据，从而通过算法给予运动提示、饮食建议。通过这种方式，能够让人们时刻关注到自己的身体指标，更方便人们养成科学的生活习惯。

2.日常慢病管理

慢性病持续时间长，且需要患者长期坚持对抗疾病，这对患者及其家庭造成了较大的生活困扰。传统慢性病管理存在着以下不足。由于医疗资源有限，患者无法及时地接收医生的专业建议，且大多数患者本身缺乏慢性病管理知识。而且慢性病持续时间长，需要患者长期进行健康管理，这对患者自我管理能力、依从性、参与程度提出较高要求。其次，传统慢病管理需要医生们的参与，而医务人员对此要付出大量的时间与精力，积极性不高。再者，慢病管理重要的是分析疾病发展的过程，这对患者自身身体检测数据的完整度提出了较高要求。而随着一些慢病管理软件与系统的上线，以上的不足均能得到不同程度的改善。如糖尿病这一常见慢性病，利用人工智能与互联网技术，能够将患者每日检测的血糖实时上传和分析，并给出相应的饮食、运动建议。系统会每日记录患者的血糖变化，并对一段时间的数据进行报表分析输出，方便医生回诊时掌握详细完整的数据。

3.疾控风险管理

人工智能目前也广泛运用于疾病预测领域。用户通过输入身体状况、如身高、体重、血糖、过往病史、日常生活习惯、身体检查影像、报告等信息，系统便能提供相应的疾病风险与生活建议。例如在癌症预测方面，人工智能可以分析肿瘤图像和遗传信息等数据提高癌症的早期诊断和治疗效果。

4.疾病诊断

人工智能在医疗领域的应用也体现在疾病诊疗方面。通过对系统灌输大量的医疗知识，使其形成完整的医疗图谱与医疗知识网，并通过算法让疾病症状与疾病本身、用药类别与量联系起来，以达到患者输入自身病症，系统便能给出疾病诊断与用药建议。该系统能够让患者足不出户获取到贴合自身情况的疾病分析，相较于网上查找病症更准确，相较于前往医院更便利。同时该系统也能帮助患者前往医院诊治前获得对自身疾病的一个基本预知，以做好与医生沟通的准备。医生也能运用该系统，给予一些诊断提醒，如该病症还能对应哪些疾病、用药规范、用药是否对症、用药是否过量等，能够减少医生自身的失误。

传统药物研发要在海量的化合物中筛选出对治疗疾病有效的药物靶点、苗头化合物、先导化合物等一系列物质，该过程面对的物质数量是很庞大的，而且需要多次反复的实验。然后候选药物确定后也要对其进行反复的药代动力学确认与安全性检测，最后才有可能产出对疾病有效、安全的药物。

人工智能系统恰恰可以解决该不足。通过计算枚举出可能的有机分子，并通过机器计算减少研发人员测试的合成化学物的数量，从而节约研发人员的时间，降低研发过程中的损耗率与研发成本。同时人工智能也能给出药物设计方案、并能预测筛选出化合物的作用机理与毒性。如DeepTox系统（预测新化合物的毒性）与PrOCTOR系统（预测在临床试验中毒性的概率）。

1.社会传染病防控

在人工智能的帮助下，社会能够对大规模传染病进行有效、普遍、精准的防控。得益于目前智能设备和互联网的普遍，这使得每个人的踪迹变得有迹可循。该项技术在新冠疫情期间运用得极为广泛。健康码，大货车司机运动轨迹监控等，这使得政府能够精准地对某片地区，甚至是某个人进行精准隔离，从而有效控制传染病的传播。

2.医院传染病防控

在医疗机构，特别是医院，很容易发生医院感染，即医院范围内的传染病感染。发生该情况主要是因为医院的工作人员在进入和离开感染区域时没有做好防护和消杀工作。院感防护系统的作用就在于能够通过摄像头，实时监控进出感染区域人员的防控和消杀情况，如果人员没有做好该规范操作，系统自动识别违规操作，通过语音对涉事人员进行提醒，同时对该人员进行登记。通过该院感系统，医院工作人员能规范自身操作行为，从而预防、减少院感事件的发生。

主要分为预问诊、接诊、开处方、诊后管理四个阶段。

1.预问诊

病人通过互联网医院程序输入姓名、年龄、性别、身体指标、病症等信息，人工智能便通过这些信息将病人分配到对应的互联网科室，同时也让医生初步了解病人情况。

2.接诊

该阶段可使用的方式很多，患者可与医生进行图文发送、视频录制、实时视频会议等，从而达到判断疾病的目的。

3.开处方

医生通过预问诊得到的消息在接诊中与病人交流，从而判断疾病，开出处方。

4.诊后管理

与线下医院不一样，互联网医院能让我们足不出户地与医生进行疾病管理交流，同时医生也可根据病人使用药物情况对诊疗效果进行判断和随访，这十分便利于慢性病管理、老年人诊疗。

笔者认为当前人工智能仍不能充当法律主体，理由如下：

1.目前人工智能不能独立进行意思表示。

随着人工智能技术的发展，人工智能的能力越来越大，能完成的事情也越来越多，貌似其具有了像人一样的自主意识。但其实，人工智能的“自主意识”是不能脱离人而存在的，它也不能够独立进行意思表示。人工智能作出意思表示的前提是，人类给它输入大量数据与构建算法，因此其能力的大小与能否作出意思表示是由人类输入数据与构建算法等行为决定的。其次，人工智能作为一种工具，在人类与其交互之前是无法作出意思表示的，它作出意思表示依赖于使用者的指令。

2.人工智能仍是一种工具。

人工智能的诞生是为了满足人类各种生活与工作的需要，其存在的意义是为了服务人类，它本质是一种工具。尽管人工智能有一定自主性，但这是为了更好地拓展服务人类能力的需要。

3.人工智能在侵权时没有能力承担责任。

人工智能侵权，最终还是会归责于人工智能关系的自然人，如其设计者、销售者、使用者。且人工智能在当今法律框架下无法获得持有财产，因此也没有承担责任的物质基础。再者，人工智能也无法像人类刑罚一样被困于牢笼，即使“处死”也无任何意义，无法获得被侵权人的理解。

4.人工智能成为法律主体不符合现有法律伦理。

从法律本质上，其仍然是以法律伦理上的自然人为法律基础，所以通过这种途径给予人工智能独立的法律主体资格不符合人类社会现有的关于作为法律主体资格的基本理念。人工智能究其本质，也仍然属于物的范畴，其仍是某个自然人与集体的财产与所有物，无法独立存在于社会。

我国向来重视个人信息保护问题。从2009年《中华人民共和国刑法修正案（七）》开始第一次对个人信息保护进行相关规定，颁布了《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》等法律法规。其中，《民法典》第1035条明确规定了个人信息的处理应当遵循合法、正当、必要原则，须获得信息主体的同意，公开处理信息的规则，并明示处理信息的目的、方式和范围，足可以见国家对于公民个人信息保护力度之大。

医疗人工智能的应用在个人信息保护方面会出现以下问题：

对于人工智能而言，给予机器学习的数据越充分，数据模型训练得更精准，最终得到的机器判断更准确。医疗人工智能发挥作用，必须以大量的数据作为支撑，而这些数据往往来源于公民的个人信息，那么就要格外注意获取公民个人信息的合法性。在获取、使用公民个人信息时，一定要获得公民的授权。授权往往也会存在有效时长与范围，企业不能超过授权的有效时长与范围违规使用数据，否则就构成侵权。其次，医疗人工智能侵犯公民个人信息权也存在着权利救济高度困难的问题。由于人工智能企业与公民之间的能力极其悬殊，公民无法干预企业制定的相关使用约定，且由于个人信息具有极强的传播性与复制性，公民个人也无法跟踪个人信息去向。再者，在发生个人信息侵权时，公民个人也陷入了取证困难的境地，不能获取企业使用、传输个人信息的证据。同时，因为人工智能黑箱效应的存在，个人无法获知个人信息使用情况与人工智能做出结果之间的关联性。

面对这些问题，企业其实可以通过一些手段来规避侵犯个人信息的风险。如公开企业数据来源情况，在收集数据前征得被使用者的同意，在使用转让信息时告知相应用户，制定制度规范数据信息收集、存储、加工、传输、使用全过程，对获取的数据进行数据脱敏、数据加密，减少数据泄露的风险，对数据存储、传输进行保护措施，防止黑客进攻、数据入侵等。

医疗机构中的人工智能应用会涉及海量的数据，而这些数据往往在存储、传输、使用等环节中存在着较大风险。首先医疗机构内地数据库潜在商业价值巨大，会被许多不法分子重点关注，而为了保证医疗机构的业务连续性，大部分数据库都无法及时地更新补丁，这就导致了医疗机构数据库很容易遭到黑客入侵，造成数据泄露。IBM安全事业部在2019年发布的一项年度调研结果中表明，医疗保健组织已连续第9年成为数据泄露损失排行榜冠军，平均损失接近650万美元，高出其他行业总体平均值的60%。[1]

医疗人工智能进行深度学习与模型训练时需用到大量数据，而这些数据往往关乎国家安全、国计民生，甚至国家战略决策，因此我国对于医疗领域的跨境数据安全特别重视。[2]例如在2015年，深圳某基因科技服务有限公司，未经批准与英国牛津大学开展中国人类遗传资源国际合作研究，该公司将未经许可的部分人类遗传资源信息从网上传递出境，中国人类遗传资源管理办公室调查清楚后，责令停止该公司涉及我国人类资源的国际合作业务。

2022年9月1日《数据出境安全评估办法》正式实施，数月后，首都医科大学附属北京A医院与荷兰阿姆斯特丹大学B合作研究项目成为全国首个被北京网信办批准的数据出境安全评估案例。这启示人工智能企业若涉及数据跨境情况，必须经相关部门进行安全评估。

医疗人工智能发生侵权纠纷时有发生，常常出现诊疗人工智能给出错误判断、手术机器人在手术过程中失误造成患者损害的情况。通过中国裁判文书网，将“达·芬奇”“医疗”“侵权”作为关键词在2017—2020年区间进行检索，共计检索出相关判决书24份，呈递增趋势。考虑到医疗侵权案件的复杂性和文书上网的局限性，实际案件数量远超于此。[3]医疗人工智能侵权目前涉及的侵权归责有医疗损害责任、产品责任、高度危险责任。

人工智能在医疗活动中，起到一个什么角色，这深深影响着人工智能在侵权纠纷中的归责与责任承担方式。笔者认为，人工智能在参与医疗活动中，始终起到的是辅助作用。人工智能的辅助定位也在我国相关文件中被频繁强调。2017年2月，原国家卫生计生委印发的《人工智能辅助诊断技术管理规范（2017 年版）》明确规定：“人工智能辅助诊断技术为辅助诊断和临床决策支持系统，不能作为临床最终诊断，仅作为临床辅助诊断和参考，最终诊断必须由有资质的临床医师确定”。[4]

医疗损害责任属于过错责任。人工智能在法律上仍是一种医疗器械，其没有被赋予法律主体地位，也没有财产与承担责任的能力，所以人工智能侵权最终的归责与责任承担会落到其背后的自然人身上。诊疗人工智能的诊断决策不能独立地成为正式医疗判断，仍需具有资质的临床医师决定。机器人人工智能在手术过程中，临床医师也必须实时监控机器人的行为，并对其行为负责。由此可见，虽然医疗人工智能具有一定的自主性，但其仍是受医师的决定影响与监控的，所以一旦发生侵权纠纷，相关的医师与医疗机构就要承担相应的侵权责任。但是，由于医疗损害责任属于过错责任，这就需要受害者承担举证责任。但由于人工智能的黑箱属性，其算法一般不公开且对于普通大众而言无法理解，所以如何证明医疗人员与人工智能系统存在过错就成为一个十分困难的问题。

产品责任属于无过错责任。医疗人工智能属于医疗器械，其本身就是一种产品。首先比较难证明产品本身存在缺陷。根据《产品质量法》第46条的规定，产品存在缺陷，主要是指产品存在“不合理的危险”，或者不符合国家标准、行业标准。[5]

由于人工智能本身是高科技，需要证明其存在缺陷本身就十分困难。且目前我国人工智能缺陷鉴定方面存在严重缺口，医疗鉴定机构与司法鉴定机构在处理医疗人工智能鉴定时难免举步维艰。[6]根据《民法典》侵权责任篇第1203条规定，医疗机构以服务提供者身份对缺陷医疗产品致害承担严格责任，受害者可以向医疗机构请求赔偿，医疗机构也保留着对人工智能生产者的追偿权利。但由于医疗机构的追偿存在着追偿成本与追偿不能的风险，过高的人工智能使用成本也会降低医疗机构使用人工智能的积极度。若过度将人工智能的侵权责任归责到人工智能设计者、开发者的话，往往会降低他们的热情，不利于人工智能的发展。

黑箱效应是指，由于算法的不公开与算法的复杂性，使得给予人工智能指令与人工智能做出的决策之间缺乏依据与可解释性。黑箱效应使得人工智能缺乏中间疾病推断的依据与过程，这会对医疗活动造成极大风险。

首先，传统的医疗诊断活动对于疾病诊断过程是重视的，人工智能直接给出判断却不给出依据与过程，这难免会增加医生对人工智能的不信任。

其次，在传统观念中，“医者最晓”是向来观念。人们放心将自身疾病交于医生治疗很大程度是对医生医疗知识与医疗水平的信赖，而人工智能黑箱效应的不可解释性则破坏了这一点。不可解释性会导致患者对于医生做出的判断产生怀疑，从而影响医患关系，甚至是增加医闹的风险。

再者，人工智能的黑箱效应也一定程度上影响着医生判断。如果人工智能做出的判断与医生认知中对该疾病的判断有很大出入，或者人工智能开出的药方中有医生认知中明显错误的药物搭配与剂量，这时候医生该怎么办？此时会出现三种可能：一是人工智能出现了故障；二是医生水平不足，判断错误；三是人工智能由于极强的学习能力，其能掌握最新的医疗知识，而医生则难以达到医疗知识时刻更新。这三种可能，过错方都显而易见，但不论过错方是谁，人工智能判断与医生判断出现分歧，则极大可能造成医生困扰与医疗资源浪费。因为判断不同甚至是完全相反，医生必定会质疑人工智能，而验证人工智能观点则需要大量时间，但这样就违背了一开始使用医疗人工智能节约时间与减少医生工作量的初心。如果是医学前沿知识，超出了医生能力范畴，则可能出现无法验证的局面。以及人工智能黑箱效应会增加出现医疗事故时医生的风险。如人工智能的判断是正确的但医生没有采纳、人工智能判断是错误的而医生采纳了这两种情况，最终都需归责于医生，这会极大影响医生使用人工智能的积极性。

1.接诊注意事项。

医生仅能通过互联网进行一般普通疾病的诊断或者对常见慢性病的复诊，不能通过互联网开展首诊活动。如《上海市互联网医院管理办法》要求患者提供2个月内的病历资料。能在互联网医院开具处方的医生应与线下医院开具处方的医生一样，要根据《执业医师法》《医疗机构处方审核规范》《处方管理办法》进行处方开具。

2.诊疗行为干预型人工智能产品可能属于医疗器械，未经注册/备案而生产、销售、临床应用面临较高风险。

根据《医疗器械监督管理条例》，医疗器械的界定标准主要是预期用途是否具有诊疗目的。我国医疗器械实行目录管理的《医疗器械分类目录》规定：“医疗信息管理软件属性界定原则，如果医疗信息管理软件仅仅是医院管理工具，管理内容是患者信息等非医疗诊断和/或治疗内容，不按照医疗器械管理。如果医疗信息管理软件包含患者诊断、治疗数据和影像，则按照软件处理对象（影像、数据）的不同，将软件产品规范到‘21-2影像处理软件’或者‘21-3数据处理软件’。”[7]

3.人工智能技术在问诊、开方和审方环节的应用应适度，不得替代医师、药师的职能。

根据互联网诊疗规范与处方管理规范，严禁以人工智能完全替代医师。

1.要告知用户算法推荐服务情况。

在诊疗人工智能使用场景下，人工智能的判断会很大程度上影响着病人对病情的看法与治疗方案的选择。对于此类应用算法技术进行分析与自动化决策，且决策结果可能对相关个人权益产生影响的情况，我国对相关数据处理者及算法服务提供者提出了披露义务。我国《个人信息保护法》第24条规定，利用个人信息进行自动化决策的个人信息处理者应当保证决策的透明度，且通过自动化决策方式做出对个人权益有重大影响的决定，个人有权要求处理者予以说明。[8]《互联网信息服务算法推荐管理规定》也规定了算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。[9]

2.除了算法透明性以外，如仅通过自动化决策的方式做出对个人权益有重大影响的决定，个人有权拒绝。

若人工智能植入进app，应该要明确告知用户该app使用了人工智能技术进行自动化决策或定向化推送，并提供显眼的关闭按钮来给予用户充分选择是否使用人工智能的权利。

1.数据收集环节

人工智能要发挥其巨大的功效，要有前期数据的大量输入，这样才能提高其判断的准确性。数据采集的方式可以分为自行采集与第三方采购数据。自行采集的数据要注意征得当事人的同意，第三方采购数据也要注意第三方在获取数据时的合法性。

2.数据使用环节

当事人授权信息的使用是有使用范围与时间限制的，作为数据的使用者不能够超过授权范围与授权时间违规使用数据。

3.数据传输与储存环节

数据进入企业的数据库，企业便要确保数据传输与储存的安全，要加强数据安全保护，防止外来网络入侵与攻击。

4.要注意算法风险

人工智能自身的黑箱特质，会对日后其作出的许多决策产生不可解释性，且最近也越来越多对生成式人工智能编造的质疑。因此企业在人工智能算法的设计开始，便要注意增加人工智能的可解释性。

5.要注意伦理风险

人工智能在医疗实验的环节，同时涉及科学伦理与医学伦理的风险，此时就需通过科技伦理委员会等伦理委员会的审查，同时要注意遵守《涉及人的生命科学和医学研究伦理审查办法》。