制胜数字经济 | 驾驭AI —— 金融行业高级管理者角色篇

在人工智能（AI）改变全球经济的浪潮中，以金融行业为例，公司决策者和高级管理者也在努力探索AI将如何影响金融服务业。一方面AI无疑带来巨大的行业机遇 —— 据估计，生成式人工智能将使银行的年收入提高2.8%到4.7%（增加200-3400亿美元）^[1]。另一方面，AI作为一种不透明的技术将如何影响到消费者和员工另后者感到担忧。

竞争压力正在推动各家公司在业务的更多领域探索、测试和部署人工智能。快速行动的需求也催生了使用第三方产品来获取人工智能能力和基础设施，包括“人工智能即服务（AI-as-a-Service）”和现成的人工智能模型。公司的高级管理者必须确保相应的治理机制和风险管理体系是健全的。人工智能技术可能是尖端的，但亦伴随着诸多我们所熟知的风险。

简而言之，人工智能正在改变金融服务，但监管机构希望的结果——包括对于消费者而言是良好的结果 ——基本没有改变。为了实现这些结果，高级管理者需要对其公司人工智能的使用有足够的理解，以便能够进行恰当的监督。高级管理者还应密切关注不断发展的全球人工智能监管格局，以预见即将到来的法规，并为他们的人工智能模型框架做好的准备。

在近期关于人工智能的一次演讲中，美国证券交易委员会（SEC）主席评论道：“SEC是技术中立的……我们关注的是结果，而不是工具本身。” 的确，英国金融服务监管机构在最近对人工智能和机器学习反馈的总结中传递出的信息是，行业高度重视“技术中立的监管”。这种方法有其合理性，但它要求公司（及其高级管理者）对治理、监督和风险管理进行技术上的熟练应用。与国际证券委员会（IOSCO）在2021年的观察一致：这并不一定需要监督人工智能控制职责的高级管理人员具备技术专长，但需要这些高级管理人员具备足够的技术“理解”，因为最终将由这些高级管理人员对公司使用人工智能的后果承担责任，并被问责。

在欧盟，欧洲议会正在提议在《人工智能法案》的草案中新增措辞，要求人工智能系统的提供者和部署者确保员工和其他代表他们操作和使用人工智能系统的人员具有足够的人工智能素养。

在香港，监管机构尚未要求高级管理者本人具有足够的技术专业知识，但强调期望人工智能治理委员会的成员具有足够的技术技能来向高级管理者提供咨询。

监管机构将期望高级管理者有必要的经验，以便有效地对他们公司使用人工智能的情况进行适当的监督和监控。此外，监管机构对高级管理者有足够理解人工智能模型及其数据输入的期望也将提高，从而使得公司（及其高级管理者）能够评估和质疑模型结果，并防止偏见、歧视和其他对客户不良的结果。

这从英国审慎监管局（PRA）的模型风险管理（MRM）原则中就可以看出，这些原则将在2024年5月生效。这些原则是考虑到人工智能模型而制定的。“治理”是MRM的五个原则之一，包括期望董事会对最重要模型（包括人工智能模型）的输出提出质疑。这将要求他们理解：

此外，公司应确定相关的高级管理者承担MRM框架的总体责任，以及框架的实施、执行和维护。

在新加坡，重点是公私合作开发工具包，以帮助公司在评估或制定人工智能使用的治理框架时遵守公平、道德、问责和透明度的原则。在新加坡金融管理局（MAS）的支持下，将在2024年初发布一份行业主导的白皮书，该白皮书将从银行的角度讨论生成型人工智能的负责任使用。

中国的人工智能法正在进行立法。目前中国关于人工智能的监管分散在多个法律法规中，监管部门也陆续发布了多项规定积极回应近年来人工智能技术的快速发展。金融监管方面，原中国银行保险监督管理委员会在2022年1月10日公布的《中国银保监会办公厅关于银行业保险业数字化转型的指导意见》中提出建立对模型和算法风险的全面管理框架，制定管理制度，对模型数据的准确性和充足性进行交叉验证和定期评估。审慎设置客户筛选和风险评估等模型的参数，并使用压力情景下的参数进行模拟校验。定期评估模型预测能力及在不同场景下的局限性，确保模型的可解释性和可审计性。模型管理核心环节要自主掌控。加强消费者权益保护，防止算法歧视。

在人工智能特定法规或指南尚未出台的国家，高级管理者应关注现有的法律和法规可能适用于一般的人工智能使用，并在设计企业的业务运营和产品时预见即将到来的法规的影响——可参考其他司法管辖区如英国和欧盟人工智能相关监管法规。

全球公司的高级管理者也将被期望借鉴他们在探索跨境监管框架方面的经验，因为全球人工智能监管格局将继续稳步发展。