本文约2500字，阅读需要6分钟
本文整理自美国医学会（AMA）发布的《A Governance Framework for Agentic AI Assuming Clinical Functions》。报告提出了一套围绕临床职能、证据与风险、权限与监督、责任归属展开的治理思路。框架的核心原则是：AI的临床权限应当通过证据获得，并通过持续验证的实际表现来维持。随着证据、系统表现、风险水平或技术能力发生变化，AI的权限范围与监督要求也应相应调整。
智能体AI进入临床：治理重点从技术转向权限与责任
AI能够执行临床任务，不代表它天然拥有相应权限。传统医疗AI通常定位为医生的辅助工具，主要提供信息支持、风险预测或决策建议。但随着智能体AI能力的发展，系统可能不再局限于生成建议，而是能够在一定条件下自主采取行动。
这使AI的临床角色从“辅助决策”向“执行临床职能”延伸，也让既有治理方式面临新的挑战。例如，记录病历、监测患者状态、作出诊断、实施治疗和开具处方，虽然都属于医疗活动，但它们对患者安全的影响程度并不相同。即使AI在某项任务上表现良好，也不能据此推定它适合承担所有临床任务。
因此，AMA强调，治理首先需要明确AI实际承担的职能，再根据任务的重要程度、潜在风险和可验证的表现，决定系统可以获得多大程度的临床权限，以及需要何种形式的人工或机构监督。
AMA提出，临床权限需要与证据和实际表现相匹配。AI的临床权限不应仅依据技术能力或产品声明确定，而应建立在可验证的证据基础上，并通过持续表现加以维持。治理要求也不应一成不变：当新证据出现、系统表现发生变化、风险水平改变，或底层技术更新时，都需要重新评估AI的权限与监督安排。
这意味着，AI临床治理不只是产品部署前的一次性审核，而是贯穿系统使用过程的持续管理。技术能力的提升可以为扩大应用范围创造条件，但是否应当扩大权限，仍需要由相应证据和风险评估来支持。
构建智能体AI治理框架的四个核心问题
AMA将治理工作归纳为四个相互关联的问题，分别涉及AI承担的职能、支持其运行的证据与风险、可获得的权限与监督，以及最终的责任归属。
1. 明确AI承担的具体临床职能
治理的第一步是明确AI承担的具体临床职能，包括任务内容、目标患者群体、使用环境和预期用途。记录、监测、分诊、提出建议、诊断、治疗和处方等任务，不能仅因为都发生在医疗场景中，就采用相同的治理标准。
明确职能有助于判断系统需要具备哪些能力、应当接受何种评估，以及其使用边界应如何设定。对于医疗机构而言，评估对象不应只是一个笼统的“医疗AI产品”，而应落实到产品在具体场景中执行的具体任务。
2. 确保证据与风险相匹配
第二个问题是，什么证据能够证明AI有能力完成相应任务，以及当系统发生错误时可能产生什么后果。
AMA提出，评估应结合系统表现、安全性、临床获益、目标人群适配性和不确定性，并与潜在后果的严重程度相匹配。框架进一步指出，任务后果越严重、AI自主程度越高，就越需要更充分的证据支持。
这意味着，AI治理不能只关注模型在测试中的准确率，也需要考虑其是否适用于实际患者群体和具体医疗环境，以及错误是否可能导致严重伤害。对低风险辅助任务与高风险诊疗行动，治理要求应有所区分。
3. 界定权限范围与监督条件
第三个问题是，AI应当被允许执行哪些操作，以及这些操作需要满足什么条件。
AMA在框架中提出了一条从“提供信息”到“提出建议”，再到“作出决定”和“采取行动”的权限路径。这些阶段代表了AI介入临床流程的不同程度，并不意味着所有系统都应沿着这条路径逐步获得更高权限。
AI的可执行范围应当与其证据基础、潜在风险和所需监督相匹配。对于某些任务，AI可能适合提供信息或建议；对于后果更严重的任务，则可能需要更严格的使用条件、人工审核或机构层面的监督。
因此，临床AI的部署不应只回答“是否使用”，还应进一步明确“可以做什么、在什么条件下可以做，以及由谁进行监督”。
4. 厘清多方责任归属
最后，当AI的决定、行动或失误带来风险时，责任应当如何分配。
AMA指出，责任分配需要考虑不同参与方所拥有的权限、控制能力、风险认知程度，以及预防或减轻伤害的能力。相关主体可能包括AI开发者、部署方、医疗系统、医生、支付方及其他参与者。
这一思路强调，AI参与临床工作并不意味着责任问题可以留待事后处理。治理框架需要提前识别各方在系统开发、部署、使用和监督过程中的角色，并使责任安排与各方实际掌握的权限和控制能力相对应。
监管、临床授权与责任机制需协同推进
在四个核心问题之外，AMA的框架还将监管、授权和责任列为智能体AI临床治理的重要议题。
其中，监管关注证据、安全性、系统表现及使用条件；授权关注AI可以承担的临床职能范围，以及相应的监督要求；责任则涉及临床决策、具体行动和系统失效所产生后果的责任归属。
将这三个维度放在一起，意味着AI能否进入临床场景、可以获得多大权限，以及发生问题后如何追究责任，不应被割裂处理。监管要求、权限范围和责任机制需要彼此衔接，才能使AI的实际行动始终处于与其能力和风险相适应的治理体系之中。
从一次性部署转向持续监测与重新评估
AMA进一步提出了一个持续运行的治理循环，包括部署、监测、重新评估和学习。其含义是，AI系统进入临床环境并不意味着治理工作结束，医疗机构和相关参与方还需要持续观察系统表现，并根据运行中获得的信息调整治理安排。
部署之后，需要监测系统在真实使用条件下的表现；当出现新的证据、风险变化或技术更新时，应重新评估系统的适用范围和监督要求；随后再将经验反馈至后续部署与治理过程中。
这一循环与AMA提出的核心原则相一致：临床权限应当建立在证据之上，并由持续验证的表现来维持。对智能体AI而言，治理不是一次性批准，而是需要随着系统能力、应用场景和风险变化不断调整的过程。
AMA提出的智能体AI治理框架，将医疗AI的讨论从模型能力和应用潜力进一步延伸至临床权限、风险证据、监督机制与责任归属。其重点并非简单限制AI进入临床，而是要求AI承担的职能、可获得的权限和所需的治理措施保持一致。
随着AI从信息辅助工具向能够自主执行任务的系统发展，医疗机构、技术开发者、监管者及其他相关方需要共同明确系统的使用边界，并建立持续监测和重新评估机制。对医疗AI产业而言，未来的关键不仅是系统能否完成任务，也在于其是否有足够证据支持相应权限，以及整个使用过程是否具备清晰、可持续的监督与责任安排。
