大数跨境

AI进入GMP,第一道关口是什么?

AI进入GMP,第一道关口是什么? 小易说合规
2026-11-16
0
导读:2026年11月,日本药品监管领域连续发布、传达了两份值得制药企业关注的AI相关文件。本篇聚焦三层治理框架的第一层,以PMDA《AI在监管活动中应用的基本原则(初步考量)》为基础,讨论制药企业应如何明
2026年11月,日本药品监管领域连续发布、传达了两份值得制药企业关注的AI相关文件。
2026年11月2日,日本药品和医疗器械综合机构(PMDA)发布了《AI在监管活动中应用的基本原则(初步考量)》(Basic Principles for the Use of AI in Regulatory Activities),日本厚生劳动省相关部门随后于11月5日传达了《药品生产和质量控制(CMC)领域中AI及机器学习模型应用的考量》(Considerations for the Use of Models, Including AI and Machine Learning, in Pharmaceutical Manufacturing and Quality Control)。
两份文件虽然发布主体和文件性质不同,但在AI治理和模型评价方面形成了互补视角的AI三层治理框架。
本篇聚焦三层治理框架的第一层,以PMDA《AI在监管活动中应用的基本原则(初步考量)》为基础,讨论制药企业应如何明确AI使用边界、责任分工、风险管理及生命周期治理。
需要区分的是:PMDA这份文件自身也提出了一个“三层结构”,其内容是“以人为中心的原则—六项核心原则—五项实施与管理原则”。本文系列所采用的“三层治理框架”(AI治理、CMC模型评价、GxP质量体系控制)则是跨两份文件并结合GxP管理要求形成的企业实践分析框架,两者不是同一套分类。

01

第一层:AI治理原则——明确使用边界与责任
第一份文件《AI在监管活动中应用的基本原则(初步考量)》主要关注AI在药品全生命周期监管活动中的负责任使用。
该文件主要适用于药品、准药品、化妆品、医疗器械及再生医疗产品全生命周期中涉及监管判断和决策的AI应用,包括研发(非临床及临床研究)、生产和上市后活动。文件的主要对象是参与相关监管活动的利益相关方,包括PMDA、申请人、上市许可持有人、生产企业、申办方、CRO,以及相关AI模型或系统的开发者和提供者。
文件明确指出,其目的不是建立新的监管要求,而是提出负责任使用和开发AI时应考虑的基本原则。
从企业管理角度看,可以重点归纳为以下几个方面。


以人为中心:AI辅助决策,人承担最终责任
文件提出,AI的作用是支持人的判断和决策,而不是替代人的判断和决策。
这意味着,企业引入AI后,不能因为模型已经具备自动分析和预测能力,就将质量决策责任交给模型。
例如,在AI辅助药品质量评价或实时放行的场景中,需要明确:
  • 谁负责审核模型输出?
  • 谁负责判断模型结果是否可以接受?
  • 谁拥有最终质量决策权?
  • 模型出现异常时,谁有权暂停使用?
  • 模型停用后,是否有经过批准的替代方法?
这里需要特别强调,人工监督(Human Oversight)不能仅仅理解为在AI输出后增加一个人工签字环节。
真正有效的人工监督,应当使具备相应资质和职责的人员能够理解、质疑、审核、干预或拒绝AI输出,并在必要时启动升级处理。


风险基础管理:控制强度应与风险相适应
AI应用不能采用完全统一的管理标准。
需要结合AI应用可能产生的不良后果,评估风险发生的可能性及严重程度,并据此采取适当的风险控制措施,尤其需要关注:
  • 是否可能影响患者安全?
  • 是否可能影响产品质量?
  • 是否涉及关键质量属性(CQA)?
  • 是否影响已批准的生产工艺或控制策略?
  • 是否存在独立证据能够发现模型错误?
  • 模型错误是否可能长期未被发现?
例如,AI模型仅用于生产工艺开发阶段的参数探索,与模型输出直接影响生产过程控制或产品放行,两者的风险显然不能采用相同的管理深度。
风险不仅取决于使用了什么AI技术,更取决于AI在具体业务场景中承担什么角色。


明确预期用途:不能笼统地说AI用于质量管理
明确使用场景和应用范围,是AI治理的基础。
企业不能仅在文件中写明“引入AI用于质量管理”或“利用AI优化生产工艺”,而应明确:
  • AI用于什么业务流程?
  • 处理什么产品及数据?
  • 哪些人员使用?
  • 输出结果将影响什么决策?
  • 模型适用于哪些数据和场景?
  • 哪些应用场景不在允许范围内?
例如,同一个AI模型用于工艺开发阶段的参数探索,和用于已批准生产工艺中的实时过程控制,其预期用途和风险并不相同。
因此,企业需要建立AI使用场景登记及预期用途管理机制,为后续模型评价和质量体系控制提供依据。


数据治理:确保模型建立在可靠的数据基础上
AI模型的表现与数据质量密切相关。文件强调,应建立适当的数据治理和管理机制,确保数据可靠性、隐私保护及可追溯性。企业需要关注:
  • 数据来源及其可靠性;
  • 数据收集、清洗和处理过程;
  • 数据选择及变量处理依据;
  • 数据变更历史;
  • 数据是否适合预定用途;
  • 数据处理过程是否具有可追溯性。
特别是模型开发过程中使用的训练数据、调参数据和测试数据,应明确各自用途,不能混淆。


透明度、多学科参与及生命周期管理
文件的核心原则包括公平性、问责与透明度、多学科专业能力,以及遵守法律法规和相关标准。在实施和管理层面,还包括AI模型或系统的设计开发、评价、生命周期管理、人工监督和AI素养。
在实际管理中,AI项目不能仅由算法开发人员负责,还需要工艺、生产、QC、QA、IT、统计及监管专业人员共同参与。
此外,AI管理不是模型上线后就结束了,还需要覆盖设计开发、评价、部署、运行监测、变更、异常处理和停用等全过程。
第一层最终要解决的问题是:AI能不能这样使用,谁负责使用,以及企业如何建立基本的治理机制。

02

本篇小结
AI治理首先要回答的不是采用哪一种算法,而是AI可以用于什么场景、由谁负责、如何监督,以及出现异常时如何干预。明确预期用途、建立风险相适应的管理措施、保障数据治理和人工监督,是后续模型评价与GxP质量体系控制的前提。
下一篇将进一步结合日本厚生劳动省相关部门《药品生产和质量控制(CMC)领域中AI及机器学习模型应用的考量》(Considerations for the Use of Models, Including AI and Machine Learning, in Pharmaceutical Manufacturing and Quality Control)讨论:在明确AI使用场景之后,企业如何通过QOI、COU、MI、CWD、V&V和UQ等要素,证明CMC模型适合预定用途并具有足够可信度。

【声明】内容源于网络
0
0
小易说合规
1234
内容 36
粉丝 0
小易说合规 1234
总阅读2.7k
粉丝0
内容36