中国拟出台生成式AI监管新规 严控虚假信息与知识产权风险

草案明确内容真实性、数据合规及用户隐私保护要求，为AI健康发展设“安全阀”

By LI Linxu

随着生成式人工智能（Generative AI）技术快速发展，全球监管机构正面临如何规范这一颠覆性技术的挑战。中国已就《生成式人工智能服务管理暂行办法（草案）》公开征求意见，旨在为ChatGPT、文心一言等生成式AI产品和服务建立系统性监管框架。

▲ PHOTO: VCG

生成式AI是指基于算法或模型，能够生成文本、图像、语音、视频和代码等内容的技术。该草案从内容合规、市场准入、数据使用到责任划分等多个维度提出具体要求，被视为在AI治理领域具有开创意义的制度探索。

遏制虚假信息传播

打击虚假信息是全球科技监管的重点。生成式AI可能“虚构事实”或生成误导性内容，加剧信息失真风险。草案明确规定，AI生成内容不得扰乱经济社会秩序，服务提供者须确保内容的真实性与准确性，并采取有效措施防止虚假信息产生。

专家指出，关键在于落实全流程防控机制。华中科技大学法学院副教授滕锐表示，草案构建了覆盖训练数据、模型优化到内容输出的全链条防伪体系，并强调新规应与现有法律法规衔接协调。

中科院科技战略咨询研究院研究员肖尤丹认为，监管需聚焦“应对虚假信息”的具体执行路径。 meritstree合伙人石晓南提醒，鉴于AI“黑箱”特性，政策可操作性与执行效力仍需审慎评估。

强化知识产权保护

近期，AI生成图片斩获摄影大奖事件引发艺术界争议，凸显生成式AI带来的版权困境。草案明确要求，AI服务提供者必须尊重知识产权和商业伦理，禁止侵权行为。

用于预训练和优化的数据不得包含侵犯知识产权的内容。北京语言大学语言智能研究院研究员饶高琦指出，面对复杂应用场景，划定清晰的知识产权边界考验监管智慧。

滕锐分析称，草案围绕数据来源、处理过程和内容产出三个环节设置针对性保护措施，其立法理念与现行法律体系一致，有助于营造“科技向善”的发展环境。

加强个人隐私与数据安全防护

随着AI应用普及，用户隐私泄露风险上升。意大利曾因数据安全问题暂时封禁ChatGPT。相比之下，中国采取审慎监管路径，既防范风险又鼓励创新。

网络安全律师田京乔认为，此举为技术规范提供了有益方向，但部分执行细则仍有待完善。草案严禁非法获取、披露或使用个人信息、隐私及商业秘密，并要求企业建立用户投诉响应机制，及时纠正违规行为。

尽管企业可能面临更高的合规成本，但学界与业界普遍认同：健全的监管体系是保障生成式AI健康发展的必要前提。滕锐强调：“不能放任技术野蛮生长。”肖尤丹比喻道：“汽车上路前装好刹车，才是对行业发展真正的支持。”

Editor | SONG Ziyan

Supervisor| TIAN Xueke