新规 | 人工智能生成合成内容标识办法

9月14日，国家互联网信息办公室发布了《人工智能生成合成内容标识办法（征求意见稿）》。该《办法》旨在规范人工智能生成的合成内容标识，确保公众能够识别出哪些内容是通过人工智能技术生成的，避免信息混淆和误导，从而维护社会公共利益。

《办法》规定，所有提供生成合成内容服务的网络信息服务提供者必须对其生成的内容进行标识。这些标识分为显式标识和隐式标识两种：显式标识是用户可以直接看到的提示，常见于文字、图片、音频、视频等形式；隐式标识则嵌入在内容的文件数据中，用户无法直接感知，但可以通过技术手段检测到。

服务提供者需要确保这些标识在各种操作下都不会丢失或被篡改。尤其在内容的传播、下载、导出等过程中，标识的存在是强制要求。服务平台还需承担审核职责，确保所有上传内容都符合标识规定。违反这些要求的行为将会面临相应处罚，相关部门将依据法律法规进行处理。

此次《办法》为AI行业设定了新的合规标准，旨在推动人工智能健康有序发展，并为防范信息操纵和虚假信息传播提供了有力的法律保障。

要求、禁止行为及处罚措施

要求：

显式标识：服务提供者需在生成合成内容中添加显式标识。具体要求包括：

• 在文本的起始、末尾或中间位置添加提示（文字、符号等）。
• 在音频的起始、末尾或中间位置添加语音提示或显著的提示标识。
• 在图片、视频或虚拟场景的显著位置添加提示标识，确保用户能够明显感知到。
• 在交互场景中添加提示标识，确保用户知晓内容为生成合成的。

隐式标识：文件元数据中需包含隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或编码、内容编号等信息。服务提供者也被鼓励添加数字水印等隐式标识。

内容审核与标识核验：服务提供者需在发布平台上对生成内容进行标识审核，确保元数据中含有隐式标识，并在内容周边显著提示用户。

用户声明：用户在上传生成合成内容时需主动声明内容为AI生成，并使用平台提供的标识功能。

规范传播：互联网应用程序分发平台需在应用上架或上线时审核是否包含生成合成内容的标识功能。

用户服务协议：服务提供者应在用户协议中明确标识的添加方法、样式和管理要求，并提醒用户不得篡改标识。

禁止行为：

篡改或删除标识：任何组织和个人不得恶意删除、篡改、伪造或隐匿生成合成内容的标识。

提供非法工具或服务：禁止为他人提供删除或篡改生成合成内容标识的工具或服务。

通过不正当手段进行标识：不得通过不正当方式对生成合成内容进行标识，从而损害他人合法权益。

处罚措施：

未标识或标识不当的处罚：违反规定未对生成合成内容进行标识，且造成严重后果的，将由网信部门等主管部门根据相关法律法规予以处罚。

处罚依据：相关处罚将依据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等法律法规实施，具体形式可能包括罚款、停业整改等。

该《办法》通过明确的要求和禁止行为，加强了对人工智能生成内容的监管，旨在保障公众知情权，规范AI生成内容的合法使用。

对行业的影响

运营成本增加：

实施标识要求意味着服务提供者需要在技术层面进行升级，确保能够为生成的内容添加显式和隐式标识。这可能涉及对现有系统进行开发改造，特别是对于元数据的管理和标识的嵌入。同时，平台也需要配置相应的审核机制，确保所有生成的内容都符合标识要求，这无疑增加了运营成本。

技术挑战和创新机遇：

对于AI技术研发团队来说，需要开发出高效的标识系统，尤其是在隐式标识的嵌入和保护方面。此外，如何平衡显式标识的用户体验与合规性也是一大挑战。显式标识可能在用户的观看或使用过程中带来不便，这要求技术团队在实现合规的同时，优化标识的呈现方式，减少对用户体验的负面影响。

同时，这也是一个推动技术创新的机会。开发更加先进、隐蔽的标识技术（如数字水印等），以及通过AI手段自动检测和嵌入标识的能力，可能成为行业的新增长点。

内容审核压力加大：

平台需要承担更重的审核责任，不仅要确保所有上传和传播的内容都经过适当标识，还要进行标识的完整性检查。对于用户上传的大量内容，自动化审核工具的准确性将直接影响平台的合规性，人工审核和技术审核的配合也需要加强。这可能迫使平台扩展审核团队，甚至引入更先进的AI内容审核工具。

市场信任提升：

随着该办法的实施，整个AI行业将更加规范化，有助于提升行业的公信力。对用户而言，明确标识的存在能够增强内容的透明度，使公众更容易区分哪些内容是由AI生成的，避免误导。这将促进用户对AI技术的接受，提升行业的整体信誉度和信任度，长远来看有助于行业的健康发展。

行业竞争格局变化：

大型科技公司可能由于技术和资源的优势，能够较快地适应新规的要求，从而进一步巩固其市场地位。而中小型企业可能会因合规成本增加而面临压力，甚至退出市场。因此，合规性要求可能会加速AI行业的整合，大公司通过技术优势和合规能力占据主导地位，中小企业则面临转型或被收购的局面。

用户行为和内容生成习惯的变化：

新规要求用户在上传生成合成内容时主动声明并进行标识，这可能会影响用户的行为习惯。部分用户可能因为不愿进行标识而减少上传内容，或者在使用生成式AI工具时更加谨慎。这也可能促使用户对AI生成内容的使用更加理性和负责任。

原文链接

《人工智能生成合成内容标识办法（征求意见稿）》

https://www.cac.gov.cn/2024-09/14/c_1728000680671017.htm

※※※※※※※※※※※※※

我司提供以下服务

各类产业文章写作

商业报告写作

市场研究

数据在手，天下你有~

加微信：kurgerlion