学术 | 深析中国首个AIGC监管文件——《生成式人工智能服务管理暂行办法》

2023年7月13日，我国发布了首个针对生成式人工智能（AIGC）的监管文件《生成式人工智能服务管理暂行办法》（简称“《暂行办法》”）。该《暂行办法》于2023年8月15日起正式施行。笔者谨以此文，对该《暂行办法》的内容，以及涉及AIGC技术监管的相关议题进行专业分析。

近年来，人工智能技术的迅猛发展引发了社会对其应用领域内法律和伦理问题的广泛关注。生成式人工智能（Generative Artificial Intelligence，简称“GAI”）作为人工智能的重要分支，通过算法生成内容，为文学、艺术、音乐等领域注入了创新活力。然而，GAI的崛起也引发了一系列涉及版权、隐私、人格权等的法律问题，迫使立法者和监管机构不得不对其进行监管。为了规范GAI领域的发展，我国在2023年7月13日发布了首份《生成式人工智能服务管理暂行办法》，并引入了“人工智能生成内容”（Artificial Intelligence Generated Content）（简称“AIGC”）监管框架。

《暂行办法》是我国针对“生成式人工智能”这一新兴领域的首次监管举措，具有里程碑式的意义。值得注意的是，本《暂行办法》凸显了监管部门的“发展与风险兼顾”原则，以平衡创新推动和风险管控。然⽽，AIGC技术的蓬勃发展，使得当前阶段的管理办法难以穷尽技术层面的细节，在分类分级监管规则、舆论属性和社会动员能力标准、外商投资等领域尤其如此。鉴于此，该办法被定位为“暂行”，预示着未来监管部门将进一步细化法规内容，以适应技术发展的需要。

从法规架构的角度看，过往的监管实践预示着我国监管机构可能倾向于建立一套“1+N”式法律框架，以基础性和原则性规定组成为主，以特定问题和技术领域的专项规则和指南为辅，确保对AIGC技术的全面监管。不容忽视的是，已列入2023年国务院立法工作计划的《人工智能法》草案将起到至关重要的作用。一旦该法通过全国人大常委会审议，将为AIGC领域的技术开发、应用和产业发展提供坚实的法律基础，涵盖诸如算法、数据、安全、个人信息保护、知识产权等重要领域。对于《暂行办法》而言，其地位旨在作为“1+N”法规框架中的一环，重点关注解决当前我国及国际上AIGC技术所面临的热点难题。《暂行办法》将在初期扮演指导性角色，为相关监管规定提供补充和细化思路。

生成式人工智能服务的监管框架，囊括多项法律法规及规范性文件，形成层次丰富、多角度的规范治理体系。包括《中华人民共和国网络安全法》《中华人民共和国数据安全法》（简称“《数据安全法》”）、《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等可视为上位法。《暂行办法》《互联网信息服务深度合成管理规定》（简称“《深度合成规定》”）及《互联网信息服务算法推荐管理规定》（简称“《算法规定》”）等规范性文件，对生成式人工智能服务之内容标示、安全评估等环节提供支持并进行补充，使得生成式人工智能服务的治理更为全面细致。

我国现阶段AIGC法律监管体系

《暂行办法》彰显了国家坚持融合发展与安全保障、推动创新与法治治理相统一的原则，以包容审慎和分类分级监管为导向，对生成式人工智能服务实行监管。在其框架内，生成式人工智能的创新发展受到重视。随着生成式人工智能技术迅猛发展，其应用场景愈发广泛多样，《暂行办法》鼓励不同领域通力合作，从技术创新、数据资源建设、应用转化到风险控制等各方面共同促进创新。考虑到我国在生成式人工智能相关算法、芯片等技术研发方面起步相对较晚，《暂行办法》提倡在基础技术领域进行自主创新，并呼吁推动平等互利的国际交流与合作，加强与他国之间的合作，共同推进生成式人工智能技术的进步。在资源利用方面，《暂行办法》强调资源共享的重要性，积极推动生成式人工智能基础设施和公共训练数据资源平台的构建，也鼓励协同共享算力资源，以提高算力资源的利用效率。这些举措共同构建了生成式人工智能领域内的鼓励创新、支持合作、资源共享的环境。

根据《暂行办法》第二条的规定，“任何利用生成式人工智能技术为中国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称为生成式人工智能服务）都适用本办法”。这意味着，境内外AIGC服务提供者，无论其是在模型层还是在应用层提供服务，亦或是直接向中国境内或通过API接口或其他方式间接提供服务，都受到了《暂行办法》相关规定的限制。

对于国内企业而言，如果他们使用境外大模型或相关技术作为底层技术支持，无论是否取得了境外AIGC服务提供商的适当授权，都会面临两个主要问题：首先，这种行为是否会使境外服务提供商在中国法律下负有连带责任，从而可能引发双方之间的法律纠纷；其次，在使用境外技术的过程中是否涉及数据的跨境传输。目前已经有创业者因通过“封装”境外大模型谋取利润，涉嫌非法经营罪而被刑事拘留，这表明目前在涉及境外AIGC服务的某些商业模式中存在一定的刑事风险。

《暂行办法》中也引入了一个“安全港”例外条款，即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等，只是研发和应用生成式人工智能技术，但未向中国境内公众提供生成式人工智能服务的，不受本办法的规定约束”。因此，如果仅仅是内部研发或应用，只需获得技术提供方的适当授权并遵守网络安全、数据保护等相关法律法规要求，就可以基本确保安全合规，这一点与接近正式版本的欧盟《人工智能法案》中的例外情况相似。《暂行办法》将行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在中国境内未向公众提供生成式人工智能服务的技术研发和应用行为排除在规定范围之外。因此，仅用于内部研发或应用的企业，只需要确保取得技术提供方的合法授权并遵守网络安全、数据保护等相关法律法规，就可以在模型训练和内部运营方面减轻合规负担。

总之，《暂行办法》适用于那些利用生成式人工智能技术向中国境内公众提供生成文本、图片、音频、视频等内容的服务。无论是直接向中国境内提供服务还是通过API接口等方式间接提供服务的境外服务提供者，都应受到《暂行办法》的监管。

依据《暂行办法》第三条的规定，生成式人工智能服务的监管采取了包容审慎和分类分级的原则。此外，根据第十六条的规定，国家有关主管部门将根据生成式人工智能技术的特点以及其在相关行业和领域中的服务应用，制定相应的科学监管方式，进一步完善和创新分类分级监管规则或指引。虽然《暂行办法》内并未详细揭示分级监管的具体规则，然而，我们可以合理预测，相关规定将在不久后颁布的《人工智能法》中得以呈现明晰。借鉴欧盟的《人工智能法案》，其基于风险评估划分出四个层次，分别是“不可接受的风险”“高风险”“有限风险”和“低风险”。这些不同层次的风险对应不同的监管措施。举例而言，若被评估为“不可接受的风险”，将受到严格的禁止，并可能遭受高额罚款；对于“高风险”技术，需要遵从全面的风险管理步骤，并接受全周期的评估；“有限风险”技术需要履行透明公开的责任；而“低风险”技术则不会附带额外责任。

我国尚未明确规定详尽的分级监管细则，《暂行办法》之前也未有明确规定。但是，在我国即将颁布的《人工智能法》出台之前，笔者建议从事生成式人工智能领域的从业者可以参照欧盟的标准进行风险评估，为未来的合规经营准备做好铺垫，应对随后出台的监管要求。

OpenAI等境外企业处于AIGC领域技术的前沿，同时该领域也吸引了众多境外投资者参与。《暂行办法》首次明确了一个原则性条款，即“如果来源于境外的生成式人工智能服务提供违反法律、行政法规和本办法规定的，国家网信部门将会通知相关机构采取技术措施和其他必要措施来进行处理。”考虑到第一条的适用范围规定，这意味着依赖底层境外技术支持的“嵌套”或“封装”型境内服务提供者，可能面临着底层技术支持随时中断的风险。《暂行办法》还明确提到，“外商投资生成式人工智能服务应当遵循外商投资相关法律、行政法规的规定。”考虑到当前外商在AIGC领域投资的规定尚不明确，建议持续关注相关立法动态。预计在未来，根据即将发布的分类分级监管规则，将会针对不同情况制定外商投资限制规定。

笔者认为，《暂行办法》对于境外AIGC服务提供者和投资者持审慎监管态度，同时也对境内服务提供者的合规风险和外商投资保持谨慎。相关企业和投资者应保持高度关注，以便做出适当的决策和调整。

根据《暂行办法》的规定，内容管理方面，生成式人工智能服务提供者被定义为网络信息内容的生产者，因此需要承担网络信息安全义务。当服务涉及个人信息时，提供者需按法律规定尽个人信息处理者的责任，确保履行个人信息保护义务。提供者也在训练数据方面肩负多项责任，涵盖了训练数据的合法性验证、质量的满足、内容标识的执行，还有算法纠偏与报告等任务，旨在提升训练数据的真实性、准确性、客观性和多样性。提供者需制定明确的服务协议，建构恰当的使用与防沉迷机制，确保服务的稳固性；构建投诉举报处理机制，以确保使用者能充分有效地运用生成式人工智能服务。提供者还应承担安全评估和算法备案等监管义务，及履行算法披露等职责。

这一系列规定凸显了生成式人工智能服务提供者在内容管理、训练数据、用户权益、安全评估等多个层面的责任。这些责任的履行不仅有助于保障用户权益，确保信息安全，还有利于促进行业的健康发展，全面推进技术进步。

基于《暂行办法》的规定，以及相关法律法规的指引，笔者对生成式人工智能服务的合规要求进行了详尽的梳理和整理，形成了一份合规检查表，本合规检查旨在为AIGC服务提供者提供明晰的指引，确保生成式人工智能服务遵循法规、保障用户权益、提升数据质量等方面实现合规操作。通过不断遵循这些合规指引，笔者相信，生成式人工智能技术将迈向更加可持续的发展，为广大用户带来更优质、安全的智能化体验。

吴迪 专职律师

（头像以作者照片为原型，使用ChatGPT和Midjourney绘制）

执业证号：14401201910114576

专注领域：知识产权维权、人工智能、游戏法及民商事诉讼与仲裁等

澳门国际仲裁学会副研究员，TCIAC国际仲裁员、法律硕士。先后为多家大型国企、上市公司提供法律服务，如中粮集团、盈峰环境、中联重科和美酒店管理（上海）有限公司等。先后代理了近百余件诉讼案件，承办过许多重大、疑难、复杂案件。

程慧华 专职律师

执业证号：14401201910086379

专注领域：财税法律事务，公司法律事务，公司并购、合并、破产清算及民商事诉讼

具有注册会计师、注册税务师多重执业资格。