来源:行业报告研究院
国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》,生成式AI相关制度陆续完善,应用端落地进展有望加速!
2023年7月13日,国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》,自2023年8月15日起施行。
我们认为相比前次发布的征求意见稿,本次《办法》有以下几点需要关注:
1、监管分级,提出备案制监管模式,鼓励生成式AI创新发展:《办法》对生成式AI服务实行包容审慎和分类分级监管。提供者按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。我们认为监管分级和备案制的落实有望进一步促进生成式AI的创新发展,是积极促进产业发展的机制。
2、鼓励支持生成式AI应用端的创新、积极发展和生态的建立:《办法》鼓励生成式AI技术在各行业的创新应用,生成优质内容,探索优化应用场景,构建应用生态体系。
3、更加清晰的权责划分、训练数据规范要求更加明确:《办法》新增规定提供者与使用者签订服务协议,明确双方权利义务。同时,《办法》规定模型训练使用具有合法来源的数据和基础模型并保证训练数据质量。我们认为生成式AI提供方与使用方的权责明确划分以及模型训练数据的规范明确有望进一步促进行业的健康良性发展,
我们认为本次《办法》在监管、产业等方面加大了对生成式AI支持力度,随着本次《办法》的推出以及后续相关制度的不断完善,生成式AI应用端落地及商业化进度有望加速。建议关注:
1)AI+游戏:恺英网络、神州泰岳、掌趣科技、巨人网络、三七互娱、世纪华通等
2)AI+教育:世纪天鸿、皖新传媒、中原传媒、南方传媒等
3)AI+影视:光线传媒、中国电影、上海电影等
4)AI+监管:人民网、新华网等
5)AI+跨境电商:华凯易佰、吉宏股份、焦点科技等
6)AI+IP:中文在线、奥飞娱乐、汤姆猫
7)AI+版权:视觉中国、中文在线、掌阅科技、阅文集团(港股)等
8)AI+生态:腾讯(港股)、阿里(港股)等
生成式人工智能服务管理暂行办法
(征求意见稿)
第一章 总 则
第一条 为为了促进生成式人工智能健康发展和规范应用,维护国家安全和 社会公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国 网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保 护法》、《中华人民共和国科学技术进步法》等法律、行政法规,制定本办法。
第二条 研发、利用生成式人工智能产品,面向技术向中华人民共和国境内公 众提供服务的,适用本办法。
本办法所称生成式人工智能,是指基于算法、模型、规则生成 文本、图片、声音音频、视频、代码等内容的技术服务(以下称生成式人工智能服务),适用本办法。
第三条 国家支持对利用生成式人工智能算法、框架服务从事新闻出版、影视制作、文艺创作等基础活动另有规定的,从其规定。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用 生成式人工智能技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。
第四条 ,未向境内公众提供生成式人工智能产品或服务的,不适用本办法的规定。
第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采 取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎 和分类分级监管。
第四条 提供和使用生成式人工智能服务,应当遵守法律、行政法规的要求, 尊重社会公德、公序良俗,符合和伦理道德,遵守以下要求规定:
(一)利用生成式人工智能生成的内容应当体现坚持社会主义核心价 值观,不得含有生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和 利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、 极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序虚假有害信息等法律、行政法规禁止的内容。;
(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中, 采取有效措施防止出现种族、产生民族、信仰、国别、地域、性别、年龄、职 业、健康等歧视。;
(三)尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平 台等优势,实施不公平垄断和不正当竞争。行为;
(四)利用生成式人工智能生成的内容应当真实准确,采取措施防止生 成虚假信息。
(五)尊重他人合法利益,防止伤害合法权益,不得危害他人身心 健康,损害不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人隐私,侵犯 知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。信息权益;
第五条 利用生成式人工智能产品提供聊天和文本、图像、声音生 成等服务的组织和个人(以下称“提供者”),包括通过提供可编程接口 等方式支持他人自行生成文本、图像、声音等,承担该产品生成内容生 产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行 个人信息保护义务。
第六条 利用生成式人工智能产品向公众提供服务前,应当按照《具 有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网 信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履 行算法备案和变更、注销备案手续。
第七条 提供者应当对生成式人工智能产品的预训练数据、优化训 练数据来源的合法性负责。用于生成式人工智能产品的
(五)基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。
第二章 技术发展与治理
第五条 鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在 生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。第六条 鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术 的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。
推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源 协同共享,提升算力资源利用效能。推动公共数据分类分级有序开放,扩展高质 量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资 源。
第七条 生成式人工智能服务提供者(以下称提供者)应当依法开展预训练、 优化训练数据,应满足等训练数据处理活动,遵守以下要求规定:
(一)符合《中华人民共和国网络安全法》等法律法规使用具有合法 来源的要求数据和基础模型;
(二)不含有侵犯涉及知识产权的,不得侵害他人依法享有的知识产权的内容;
(三)数据包含涉及个人信息的,应当征得取得个人信息主体同意或者 符合法律、行政法规规定的其他情形;
(四)能够保证采取有效措施提高训练数据质量,增强训练数据的真实性、 准确性、客观性、多样性;
(五)国家网信部门关于生成式人工智能服务的其他监管要求。
第八条 生成式人工智能产品研制中采用人工标注时,提供者应当 制定符合本办法要求,清晰、具体、可操作的标注规则,对标注人员进 行必要培训,抽样核验标注内容的正确性。
第九条 提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。
第十条 提供者应当明确并公开其服务的适用人群、场合、用途, 采取适当措施防范用户过分依赖或沉迷生成内容。
第十一条 提供者在提供服务过程中,对用户的输入信息和使用记 录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得 根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。法律法规另有规定的,从其规定。
第十二条 提供者不得根据用户的种族、国别、性别等进行带有歧 视性的内容生成。
第十三条 提供者应当建立用户投诉接收处理机制,及时处置个人 关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图 片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或 者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。
第十四条 提供者应当在生命周期内,提供安全、稳健、持续的服 务,保障用户正常使用。
第十五条 对于运行中发现、用户举报的不符合本办法要求的生成 内容,除采取内容过滤等措施外,应在 3 个月内通过模型优化训练等方 式防止再次生成。
第十六条 提供者应当按照《互联网信息服务深度合成管理规定》 对生成的图片、视频等内容进行标识。
第十七条 提供者应当根据国家网信部门和有关主管部门的要求, 提供可以影响用户信任、选择的必要信息,包括预训练和优化训练数据 的来源、规模、类型、质量等描述,人工标注规则,人工标注数据的规 模和类型,基础算法和技术体系等。
第十八条 提供者应当指导用户科学认识和理性使用生成式人工智 能生成的内容,不利用生成内容损害他人形象、名誉以及其他合法权益, 不进行商业炒作、不正当营销。
用户发现生成内容不符合本办法要求时,有权向网信部门或者有关 主管部门举报。
第十九条 提供者发现用户利用生成式人工智能产品过程中违反法 律法规,违背商业道德、社会公德行为时,包括从事网络炒作、恶意发 帖跟评、制造垃圾邮件、编写恶意软件,实施不正当的商业营销等,应 当暂停或者终止服务。
第二十条 提供者违反本办法规定的,由网信部门和有关主管 部门按照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
第八条 在生成式人工智能技术研发过程中进行数据标注的,提供者应当制 定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估,抽样核验标注内容的准确性;对标注人员进行必要培训,提升尊法守法意识,监 督指导标注人员规范开展标注工作。
第三章 服务规范
第九条 提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。提供者应当与注册其服务的生成式人工智能服务使用者(以下称使用者)签订服务协议,明确双方权利义务。
第十条 提供者应当明确并公开其服务的适用人群、场合、用途,指导使用者科学理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用 户过度依赖或者沉迷生成式人工智能服务。
第十一条 提供者对使用者的输入信息和使用记录应当依法履行保护义务, 不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用 记录,不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其 个人信息等的请求。
第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、 视频等生成内容进行标识。
第十三条 提供者应当在其服务过程中,提供安全、稳定、持续的服务,保 障用户正常使用。
第十四条 提供者发现违法内容的,应当及时采取停止生成、停止传输、消 除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约 采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录, 并向有关主管部门报告。
第十五条 提供者应当建立健全投诉、举报机制,设置便捷的投诉、举报入 口,公布处理流程和反馈时限,及时受理、处理公众投诉举报并反馈处理结果。
第四章 监督检查和法律责任
第十六条 网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门,依据各自职责依法加强对生成式人工智能服务的管理。国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的 服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。
第十七条 提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规 定》履行算法备案和变更、注销备案手续。
第十八条 使用者发现生成式人工智能服务不符合法律、行政法规和本办法 规定的,有权向有关主管部门投诉、举报。
第十九条 有关主管部门依据职责对生成式人工智能服务开展监督检查,提 供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法 机制机理等予以说明,并提供必要的技术、数据等支持和协助。
参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行 职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密,不 得泄露或者非法向他人提供。
第二十条 对来源于中华人民共和国境外向境内提供生成式人工智能服务不 符合法律、行政法规和本办法规定的,国家网信部门应当通知有关机构采取技术 措施和其他必要措施予以处置。
第二十一条 提供者违反本办法规定的,由有关主管部门依照《中华人民共和国 网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保 护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚。
;法律、行政法规没有规定的,由网信部门和有关主管部门依据职责给予予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停或者终止其利用生成式人工智能提供服务,并处一万元以上十万元以 下罚款。提供相关服务。
构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究 刑事责任。
第二十一第五章 附 则
第二十二条 本办法下列用语的含义是:
(一)生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成 能力的模型及相关技术。
(二)生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成 式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的 组织、个人。
(三)生成式人工智能服务使用者,是指使用生成式人工智能服务生成内容 的组织、个人。
第二十三条 法律、行政法规规定提供生成式人工智能服务应当取得相关行 政许可的,提供者应当依法取得许可。
外商投资生成式人工智能服务,应当符合外商投资相关法律、行政法规的规 定。
第二十四条 本办法自 2023 年 月 日起实施8 月 15 日起施行。
厚禄投资介绍:
上海厚禄投资有限公司成立于2015年初,目前主营科创板PE股权投资业务。早年从事投资顾问及重组并购业务,在业内获得良好口碑及佳绩,具备大量上市公司资源。公司从2019年初开始专注于股权投资(PE)科技领域。
作为一家厚积薄发的新锐投资机构,公司以直投的投资方式,具备出资快、效率高、投资方式灵活、退出渠道丰富等优势。公司聚焦于科技创新项目,涵盖新能源、医疗器械、高端制造、人工智能等领域,偏向技术壁垒高、符合科创板上市条件的优质项目标的。
助力国内科技驱动型新兴产业的崛起,填补国内科技空白。公司力争成为国内一流的科技投资PE机构。
BP投递:quain.zhong@glbfinance.net
咨询热线:021-63332362
公众账号:glbfclub

