点击上方北京互联网法院获取更多精彩内容~
原创作品被判定为AI生成，作者怎样自证？当技术应用的门槛越来越低，内容检测的难度越来越大，AI乱象该如何治理？8月19日，北京互联网法院综合审判一庭副庭长袁建华、法官张倩接受CCTV13《新闻1+1》电话采访，解读“平台判定用户内容AI生成第一案”。
点击观看精彩节目
原告在某网络平台的提问下发布了一条内容，该内容被涉案平台判定为“包含AI生成内容但未标识”的违规情况，涉案平台作出将该内容隐藏并将用户禁言一天的处理，原告进行申诉未成功。原告将涉案平台告上法庭，被告平台称原告发布的内容经被告平台机器识别为“包含人工智能生成”，经过被告方人工复核，认定该内容缺乏明显的人类情感特征。
法院经审理认为，网络内容服务平台判定用户发布的内容为AI生成合成，用户需要提供证明该内容系人类创作的初步证据，但本案中原告回答内容系即时性创作文本，在客观上无法提供上述证据。而被告基于算法工具的运算结果得出涉案内容为AI生成合成的审查结论，被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，在此情况下，被告应就该事实进行合理举证或解释说明。被告未对算法决策依据和结果进行适度的解释和说明，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。最终，法院判决被告展开对涉案内容的隐藏处理，删除后台的违规处理记录，驳回原告的其他诉讼请求。
用户在使用网络平台服务时，应遵守平台规定，使用AI工具创作内容时应如实标记。受算法技术发展的限制，在算法识别的准确率没有也不可能达到100%的情况下，可能会存在平台误判的情况，需要平台前期进行处理，尽量在诉前化解纠纷。在用户拿出相关原始证据的情况下，平台经过复核认为确属误判，需尽快去除对相关内容的AI标识、解除对于相关用户的处罚措施。平台应尽量提升算法的识别能力和准确度，完善复核机制，建立畅通、便捷、有效的申诉渠道。
本案首先肯定了平台审核的正当性，对AI生成合成内容进行标记既有利于公众准确区分AI生成合成内容和人类创作内容，满足公众的知情权，也便利平台通过标识追溯内容来源，明确责任主体，降低侵权、违法犯罪等社会风险。但本案同时强调，平台应当就其判定结果进行充分的举证和说明，尤其是有义务对平台算法决策过程和结果进行相应的解释。这涉及举证责任分配的问题，对于本案中简短的网络及时创作内容来说，创作主体基本都是在线编辑后及发布，很少保留创作底稿、原件等证据，所以很难要求原告举证证明内容是人类创作。而平台是算法工具的掌控方以及结果的判断方，有能力也有义务对算法工具的运算过程和审查结果进行充分的解释说明。当然，这并不是要求平台把和算法相关的全部内容甚至是技术秘密都披露出来，而是要求被告就与涉案内容AI判定相关的算法运行机制进行必要的、可为一般公众理解的解释说明。
从本案审理出发，站在原告的角度，被算法误判为AI生成合成后当然可依法主张权利，但需要注意组织证据。本案内容是简短的及时创作内容，原告很难举证，但如果涉及内容为长篇论文、文章、小说等，一般来说创作主体应当会保有创作底稿或者原件，那么要求原告就内容系其自行创作进行初步的举证是合理的。而从平台的角度来说，建议增加算法的透明性，尤其是在算法实施有可能会影响用户正当行使权利的情况下，需要合理有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释。同时，平台要举证证明其已经提供充分合理的救济渠道，在用户遭遇误判的情况下可以通过科学有效地人工复合等程序及时进行纠正。
近两年，北京互联网法院受理的涉AI纠纷数量呈现出明显的上升趋势，且涉及的案件类型众多。占比较大的，一是涉AI人格权纠纷，如“AI声音权案”“AI换脸案”“AI陪伴案”“AI恶搞案”等，涉及使用AI软件侵害他人的肖像权、名誉权、声音权、个人信息权益等人格权利或者权益等问题；二是涉AI著作权纠纷，涉及使用AI软件生成的图片、视频等是否构成作品，以及未经许可使用他人利用AI软件生成的图片、视频等是否侵害著作权等问题，或涉及AI大模型使用他人作品进行训练是否构成侵权等问题。还有一类涉及本案这类合同纠纷，存在合同关系的双方之间，比如平台与用户，由于一方使用了AI技术所引发的纠纷。北京互联网法院受理案件的情况也充分反映出近两年我国的AI技术处在一个高速发展且应用场景不断丰富的阶段，树立既有利于AI技术发展又有助于当事人权益保护的裁判规则是法院面临的一大挑战。
相关阅读
来源：CCTV13《新闻1+1》
本文编辑：刘宛月
长按识别二维码关注北京互联网法院