域外动态||英国发布《大型语言模型和生成式人工智能》报告

点击上方蓝色字体关注我们

1.迅速准备：英国必须为长期的国际竞争和技术动荡做好准备，这有赖于利用大型语言模型提供的机会。

2.防范监管俘获：开放模型和封闭模型的开发者彼此竞争，双方都在寻求一个有益的监管框架。政府必须将市场竞争作为一项人工智能政策目标，并在科学、创新和技术部（DSIT）和人工智能安全研究所（AI Safety Institute）引入强化治理和透明度的措施，以防止出现监管俘获（regulatory capture）现象。

3.谨慎对待开放与封闭之争：开放模型提供了更多准入和竞争机会，但可能引发危险能力不可控的担忧。封闭模型提供了更多控制手段，但也可能带来权力集中的风险。政府需采取一种细致入微的方法，迅速审查安全影响，确保任何新规则都支持而非扼杀市场竞争。

4.朝向机会进行战略再平衡：过去政府过于狭隘地关注人工智能安全问题，现阶段政府必须重新进行战略平衡，否则将无法利用大型语言模型提供的机遇，落后于国际竞争对手，并在关键技术上依赖于海外科技公司。

5.增加机会：政府应采取一系列措施加强计算能力和基础设施建设，以及对学术型初创企业的支持。政府应探索发展自主大型语言模型技术的可行方案，并按照最高安全和道德标准进行建设。

6.保护版权：政府应优先考虑公平和负责任的创新。政府必须明确争议解决方式（在必要时修法）；权利人有权检查其数据是否被擅自使用；加强在大型、高质量训练数据集领域的投资，以鼓励科技公司使用获得授权的数据。

7.应对直接风险：大型语言模型最直接的安全风险来自于更易实施的恶意网络活动，这给公共安全和金融安全带来了威胁。政府需在网络安全、反恐、防范儿童性虐待和虚假信息等方面采取更多应对措施，建立评估机制和安全护栏，以解决歧视、偏见和数据泄漏带来的社会危害。

8.审查灾难性风险：对于灾难性风险（超过1000名英国人死亡和数百亿元的经济损失），英国尚未达成统一的预警指标。政府需对风险高、影响大的模型进行强制性安全测试，而非完全依赖企业的自愿承诺。目前有关人类生存风险的担忧被夸大了，不能以此分散政策制定者对更紧迫的优先事项的关注。

9.赋予监管机构权力：为政府领导的中央支持团队提供更多资源，赋予某些监管机构调查权和处罚权，制定跨部门准则并依法审查。

10.按比例监管：英国应在人工智能监管方面开辟自己的道路，借鉴但不照搬美国、欧盟和中国的做法，从而保持战略灵活性、为世界树立榜样。当务之急是制定官方标准和通用审核方法并支持企业采用，以实现负责任的创新和有意义的监管监督。