【科技参考】英国政府出台首份人工智能白皮书

创新的AI监管方法使用基于原则的监管框架让监管机构在其职权范围内解释和应用AI。这种协作和迭代的方法可以跟上快速发展的技术，这种技术需要采取适当的行动来平衡风险和机会，并加强英国作为AI全球领导者的地位。AI监管框架包括以下特征：支持创新，促进而不是扼杀负责任的创新；适当，避免给企业和监管机构带来不必要或不相称的负担；值得信赖，解决真正的风险并培养公众对AI的信任，以促进和鼓励采用AI；适应性强，能够快速有效地适应新变化，以跟上AI技术发展过程中出现的机遇和风险；明确，使AI生命周期中的参与者（包括使用AI 的企业）轻松了解规则是什么、规则适用于谁、谁执行规则以及如何遵守规则；协作，鼓励政府、监管机构和产业界共同努力，促进AI创新、建立公众信任并确保倾听和考虑公众的意见。

该框架围绕四个关键要素构建，旨在增强现有监管机构的能力，促进整个监管环境的一致性。

目前没有一个获得广泛共识的AI通用定义，英国通过AI的自适应性和自主性特征定义AI。AI的自适应性是指AI系统被训练后可能发展出人类无法直接想象的新形式推理，可能使结果的解释变得困难。AI的自主性是指一些AI系统在没有人类明确意图或持续控制的情况下做出决策，可能难以确定责任。参考这些能力来定义AI，设计能够解决相应挑战的方法，AI的监管框架将可以应对未来意想不到的自适应和自主性新技术。DSIT将监测监管机构在形成特定领域AI定义时如何解释和应用适应性和自主性，当发现监管机构的解释与DIST使用的AI特征定义更好地保持一致时，政府将支持监管机构之间的协调。

AI的监管框架是与特定情境关联的，DSIT并不针对整个领域或技术制定规则或确定风险级别，而是根据AI在特定应用中可能产生的结果进行监管。采用特定情境关联方法允许监管机构权衡采用AI的风险与错失机会的成本，采用适合该情境的方式应对相应级别的风险，避免扼杀创新或错过利用AI创造社会效益的机会。为了最好地实现情境特异性监管，DSIT将授权现有的英国监管机构应用交叉原则。监管机构最适合在其专业领域内进行详细的风险分析和执法活动。

AI监管框架建立在经济合作与发展组织（OECD）AI原则的基础上，以五项基于价值观的跨领域原则为基础，这些原则规定了负责任地设计、开发和使用AI的关键要素。监管机构将需要发布有关原则的指导意见或更新现有指导意见，还可能发布关于一项或多项原则的联合指南，以使业务更加清晰。实用指南将促使AI生命周期的参与者遵守这些原则，并将其嵌入到技术和业务操作流程中。

一是安全性和鲁棒性。AI系统应该在生命周期的各个阶段都以稳健、安全的方式运行，并且应该不断识别、评估和管理风险。二是适当的透明度和可解释性。AI系统透明度指将有关AI系统的适当信息传达给相关人员，可解释性指相关方访问、解释和理解AI系统决策的可能性，透明度和可解释性应与AI系统带来的风险相称。三是公平性。AI系统不应损害个人或组织的合法权利、歧视个人或造成不公平的市场结果。AI生命周期所有阶段的参与者应该考虑法律适用的适合系统使用和结果的公平定义。四是问责与治理。治理措施应到位，以确保对AI系统的供应和使用进行有效监督，并在AI生命周期的各个阶段建立明确的问责线。五是可反驳和补救。在适当的情况下，用户、受影响的第三方和AI生命周期的参与者应该能够对有害或有重大风险的AI决策或结果提出异议。

这种监管机构主导实施AI监管框架的做法得到了整个产业界的广泛支持。DSIT将与监管机构合作，监督更广泛的监管框架，制定指导方针，帮助监管机构以符合人们期望的方式有效实施这些原则。具体指导包括：重点关注AI在特定情境下带来的风险，采取适当的方法促进增长和创新；考虑采取相称的措施来处理优先风险，同时考虑到政府或代表政府进行的跨领域风险评估；设计、实施和执行适当的监管要求，并在可能的情况下，将AI原则纳入现有监测、调查和执行过程中；酌情制定联合指南，以支持产业界遵守这些原则和相关的监管要求。

政府有责任确保监管框架适当运行并支持创新。目前，对监管工作的中央协调和监督相对较少，如果不加以解决，将对创新造成越来越大的障碍，而众多组织和个人也强烈要求加强中央协调功能。因此，政府打算建立协调、监测和调整整个框架的机制，这些机制将补充和支持监管机构的工作，而不损害其独立性。DSIT已经确定了一系列所需的中央支持功能，以确保整体框架提供适当但有效的风险响应，同时促进整个监管环境的创新。

主要包括：开发和维持中央监测评估框架，以评估新制度对跨界经济及特定领域的影响；确保从产业界、监管机构、政府和民间社会等相关来源收集适当的数据，并将其视为总体框架有效性评估的一部分；支持监管机构进行内部监测评估，并寻找支持监管机构对中央监测评估功能做出贡献的方式；监测制度的整体有效性，包括其相称性和支持创新的程度；向部长们提供改善该制度的建议，包括可能需要额外干预的问题，以确保该框架随着AI技术和能力的发展而继续保持有效。

主要包括：制定和维护中央监管指南，以支持监管机构实施这些AI原则；确定阻碍监管机构有效实施AI原则的障碍，例如监管职责范围、监管力量不足、监管能力不足等；确定不同监管权限的机构对AI原则的解释冲突或不一致之处，并评估其对创新的影响；与监管机构合作，解决对创新产生重大影响的差异化问题，并共享学习经验和最佳实践；监测评估这些原则本身的持续相关性。

主要包括：开发和维护跨界经济、全社会的AI风险登记，支持监管机构的内部风险评估；监测、评估和重新确定已知风险的优先级；确定新出现的风险及新兴风险并按优先次序排列；与监管机构合作，明确与新出现风险有关的责任或有争议的责任领域；支持监管机构之间就跨越职权范围的AI相关风险进行联合合作，并在适当情况下发布联合指南；确定未充分覆盖的风险；共享风险管理最佳实践。

主要包括：通过协助AI创新者应对监管复杂性并将其产品推向市场，同时利用所有相关监管机构的专业知识最大限度地降低法律和合规风险，消除创新障碍；确定对现实世界产生影响和扼杀创新的跨领域监管问题，并确定改进监管框架的机会。

主要包括：监测AI发展中的新兴趋势和机遇，确保AI监管框架能够有效地应对这些趋势和机遇；积极召集产业界、领先的研究人员、学术界和其他主要利益相关者，确定AI监管框架如何支持英国的AI生态系统，以最大限度地利用新兴机遇的好处，同时继续采取适合的方法应对AI风险；与产业界、学术界、全球合作伙伴和监管机构合作，通过风险评估确定和优先考虑新出现的和新兴的AI风险。

主要包括：就监管、保险、风险管理和技术标准等方面监测英国AI原则与国际做法之间的一致性；通过确定监管的互操作机会，支持跨境协调与合作。

编译：中国科学院文献情报中心  青秀玲  董瑜

审校：中国科学技术信息研究所  张丽娟

来源：《科技参考》2023年第27期

文章观点不代表主办机构立场。