从“围墙”到“免疫系统” 金融AI安全治理的逻辑切换

来源：金融时报  作者：马梅若

当前，金融业正在经历一场静默的范式迁移。大模型和智能体不再只是优化流程的“辅助工具”，而是越来越多地参与信贷审批、风险定价、投研分析、智能营销等核心业务，甚至直接生成决策、执行动作。

但是，效率提升的另一面，是安全风险的快速外溢。当AI开始替人作判断、作决策，金融业面对的已不再是单纯的网络安全问题，而是深度交织的双重考题：既要防住外部越来越像“真人”的攻击，也要管住内部难解释的算法。

监管层面对有关风险高度警惕。2026年6月，国家金融监督管理总局对外发布《关于银行业保险业人工智能安全开发应用的指导意见》，要求开发应用人工智能的银行业保险业金融机构推动人工智能应用合规、透明、可信赖，加强分类分级管理，有效应对人工智能发展带来的风险挑战。

随着监管框架逐渐清晰，但落地层面的挑战才刚刚显现。“当前金融行业人工智能应用面临算法风险、数据隐患、新型AI攻防威胁、合规治理薄弱等突出问题。”中金金融认证中心（CFCA）总经理赵海在接受《金融时报》记者采访时表示，需要结合监管关于AI安全分类分级管理、全流程风险管控的工作要求，从全局治理视角出发加以应对，而市场也在期待一套有效的解决方案。

围绕大模型时代的安全风险，业内已有高度共识。在金融领域，相关风险更值得警惕。多位受访者告诉《金融时报》记者，金融业务对决策可追溯、可问责的要求，与AI算法的黑箱特性之间存在天然张力。

“算法模型内生风险突出。”赵海表示，一方面，存在算法黑箱与可解释性不足问题，信贷审批、风险定价等关键决策逻辑难以拆解追溯，无法满足监管问责与消费者权益保护要求；另一方面，训练数据的历史偏差易被模型放大，形成算法歧视，造成金融服务不公平。

华东师范大学上海人工智能金融学院院长邵怡蕾在接受《金融时报》记者采访时也坦言，金融行业不接受“黑盒”操作，即不透明的逻辑和决策过程，决策可解释可追溯是金融合规的最基本要素之一。目前，生成式大模型由于缺乏可解释性，在金融领域应用存在一些天然的缺陷。

在实践中，让业内人士头疼的是大模型在开放性话题中存在“一本正经胡说八道”的“幻觉”问题。“有一次写报告需要查询相关政策法规，我问了大模型后，大模型告诉我是在第几章第几条，但我查询后发现根本没有这个内容。”一位行业分析人士无奈地感慨。

一位银行工作人员也表示，AI在决策链条中发挥了主要作用，但最终仍需人工“拍板”时，AI权责与人的权责不对等，使得银行难以完全放心地将核心业务决策交给AI。

问题还不止于此。金融业对AI的应用高度依赖客户身份、交易、征信等高敏感数据。数据采集、训练、调用全链路均存在信息泄露、过度采集、违规滥用风险，还可能面临数据投毒、样本篡改等定向攻击。更棘手的是新型操作风险。AI换脸、语音克隆等深度合成技术大幅降低诈骗门槛，传统身份核验、反欺诈体系识别难度陡增，针对企业转账、理财营销的新型诈骗案件高发。

对此，中国银行原行长李礼辉在总结AI大模型应用面临的问题时曾表示，金融业是对安全和可信度要求近乎苛刻的行业。

面对这些交织的风险，行业正在形成一条路径：金融AI安全治理必须从被动防御转向主动预判，从单点工具转向体系化能力。

对于金融行业而言，这意味着安全治理的逻辑需要一次根本性调整：不是把AI当作需要管控的“新风险源”，而是把AI能力嵌入安全体系本身，实现“以AI对抗AI”。金融业务的特殊性决定了这种嵌入不能是简单的技术堆叠——算法可解释性、决策可追溯性、人工最终决策权的保留，这些合规要求需要与安全技术同步落地。

金融机构已积极实践起来。中国农业银行董事长谷澍在2026陆家嘴论坛上的思路颇具代表性：分类施策推进场景适配。按照金融场景的风险等级和监管合规要求，建立模型黑箱分级管控机制，为不同场景匹配差异化的技术路线与可解释性要求。此外，设定一定的标尺，约束控制模型幻觉，同时，强化人机互补的约束机制，切实压缩大模型“自由编造”空间，并以AI手段应对AI应用风险，强化银行内部AI治理体系等。

李礼辉则强调，金融机构部署AI模型必须配置先进的安全技术工具，要注意以下几点：用于市场分析和预测，要克制模型幻觉；用于客户筛选和分层，要避免模型歧视；用于量化交易和投资顾问，要防止算法共振；用于身份识别和验证，要特别注意抵抗AI虚假信息。

作为权威的第三方电子认证服务机构，CFCA的实践具有独特的行业适配性。赵海表示，CFCA从全局治理视角出发，提出系统化、常态化的AI安全解决方案，核心分为“人工智能安全检测服务、网安智控综合服务平台防控”两大关键举措。

“我们要把住‘上线前’这道闸。”赵海介绍，CFCA依托人工智能安全检测规范体系，围绕数据安全、算法公平性、模型可解释性、内容安全、攻防抗性五大维度，对金融大模型与智能体开展上线前风险筛查与合规评估，重点排查幻觉输出、算法偏见、隐私数据泄露、深度合成滥用等高频风险，把不合规、高风险的模型挡在业务上线之前。

与此同时，CFCA也在助力建设全周期防线。赵海表示，以“一图多库、多智能体群”为核心架构的网安智控综合服务平台，将合规治理、安全运营、攻防对抗贯通为“事前检测评估、事中实时防护、事后溯源整改”的全生命周期闭环，以“以智防智、以快制快”应对机器速度的攻击。

当AI开始自主执行，金融安全的防线就不能只建在“入口”和“出口”。它需要建在算法的内部、数据的链路上、模型的每一次推理中。有行业人士比喻，这是一场从“围墙”到“免疫系统”的迁移，而迁移的速度可能比行业预期的更快。