生成式人工智能视野下的算法规制与数据保护丨“京e研讨”主题四 · 精彩摘录

点击上方北京互联网法院获取更多精彩内容~

分会场·主题四

去年年底，以ChatGPT为代表的生成式人工智能异军突起，生成式人工智能已经成为数字经济生态中的焦点。我们一方面惊叹于大算力、大数据、大模型支撑下的通用型人工智能在自主学习、内容生成方面呈现出的丰富功能与性能跃迁，另一方面也不得不关注其中涉及的数据合规、算法漏洞、内容滥用等一系列的法律和伦理问题。七部委联合发布了《生成式人工智能服务管理暂行办法》，但有关数据训练的合规性、生成内容的安全可靠性、生成式人工智能服务的透明度等方面仍有诸多需要深入思考的问题，也引起了产业界、法律界乃至社会公众的高度关注。在此大背景下，此次研讨是积极回应社会各界需求、努力发挥司法在生成式人工智能产业发展中保障作用的鲜活体现。

张凌寒教授以“生成式人工智能训练数据的知识产权侵权案件探析”为题，从案件概览、争议焦点、核心考量、司法能动四个方面进行具体阐述。一是介绍一起作者起诉OpenAI挖掘作品训练数据侵权案，结合图画创作及AI歌曲创作等对生成内容存在风格模仿等问题进行分析；二是介绍作品生成模式对现行知识产权保护体系的挑战，模型训练引发的著作权问题；三是探讨作为核心考量的训练数据合规要求，以及能否构成合理使用；四是希望进一步发挥司法能动作用，就衡平原创者与产业发展之间的利益、产业未来发展问题提出建议。

胡凌副教授以“当生成式人工智能遇见科斯”为题作分享。他首先介绍了互联网兴起的历史、生产方式及生成式人工智能的发展，继而引发出“生成式人工智能想要什么”的思考，并从要素来源、商业模式及劳动代替三个层面进行阐释。随后，他从科斯定理、交易成本出发，就权利的相互性进行分析。最后，他表示希望司法从财产规则到责任规则、推动双方谈判等方面为人工智能发展提供司法保障。

张吉豫副教授以“促进数字向善的生成式人工智能法律规制”为题进行分享。她指出，我国生成式人工智能规制的基本原则为发展与安全并重、促进创新和依法治理相结合、包容审慎监管、分类分级监管。生成式人工智能风险规制的难点为创新发展与风险规制，当前提供者和使用者往往对生成结果缺乏直接理解，风险防范的技术措施、管理措施及监管措施仍有待持续创新发展。同时，她以生成式人工智能生成内容侵犯著作权为例，介绍了促进数字向善的生成式人工智能法律规制，呼吁促进数字科技发展与数字向善。

“数据二十条”在构建数据基础制度上提出了四个重点内容，分别是数据产权、交易流通、收益分配和安全治理。在严格遵守数据安全和个人信息相关规定的前提下，如何让数据资源合理流通、高效利用，是目前面临的关键问题。对此，他分享了数据知识产权规则，将适合交易和流转的数据集合进行登记，借鉴知识产权的描述性登记理念，采用行为法的保护模式，充分考虑后续潜在竞争者的行为自由，最大限度避免干扰数据的正常流转，在不妨碍他人自由利用数据的前提下进行积极探索，促进数据的有效利用。

张连勇庭长围绕“数据权益司法保护的实证调研与裁判理念”，介绍了北京互联网法院数据权益保护工作。他介绍，北京互联网法院坚持全力做好前瞻调研，确保对策务实管用，提高调研研究质量，多次赴知识产权局、标准技术研究院、互联网头部企业等进行实地调研，邀请十余家平台企业座谈，与北京经济技术开发区管委会、北京市知识产权局、北京国际大数据交易所开展交流，邀请专家学者、上级法院法官参与课题成果中期论证，梳理出数据权益保护方面存在的问题，形成针对性调研报告。在价值导向上，坚持数据高效利用；在法律适用上，坚持体系化考量；在裁判方法上，坚持分类施策保护。

刘莹莹总监以“企业数据权益分配逻辑的思考”为题进行分享。她介绍了现行法规政策中有关企业数据的规定，并对司法实践中企业数据权益分配问题进行了说明，她表示其中争议最大的是涉用户的原始、公开性数据，比如用户在社交媒体平台上传的头像昵称、发布的图文音视频内容、商户在平台上的商品信息和销量数据等。在理论和司法实践层面中，数据权益保护和分配的理论构建大致呈现赋权和行为规制两种模式。在此基础上，她就数据来源者和企业在数据权益上的合理边界问题进行了详细阐释，以期推动数据要素利用，推动创新和良性市场竞争。

本次研讨会主要探讨的问题是当人工智能产业的发展与知识产权人、数据权益人的权益保护权发生冲突时，我们该如何平衡双方的关系。法律的重要作用在于定分止争，为相互冲突的权益划定边界。法律通常是稳定的，但是生成式人工智能的兴起有可能引发新的利益冲突，需要对既有的利益分配格局进行调整，这对现有的法律制度提出了挑战。今天在场的嘉宾们从不同角度对数据权益保护、知识产权保护以及人工智能大模型的发展提出了很多新的见解，令人耳目一新。我们也希望通过学术交流碰撞出更多新的火花，为监管、规制以及促进生成式人工智能发展提供更多创新性的解决路径。