By LIN Yuchen

In recent years, artificial intelligence (AI) has advanced rapidly, leading to the proliferation of AI-generated content across various platforms. While this technology enriches information availability, it also poses significant challenges, including the spread of misinformation, disruption of communication order, and the emergence of sophisticated scams.

▲ 2025年2月10日，法国巴黎大皇宫举行的人工智能行动峰会上，嘉宾发表讲话。（图片：VCG）

为应对AI技术带来的虚假信息传播、舆论操纵及诈骗等风险，中国国家网信办等四部门联合发布《人工智能生成内容标识管理办法》，将于2025年9月1日起正式施行。

该办法明确要求，AI生成的文本、图像、音频、视频等内容须进行显著标识，确保在内容生产与传播各环节均可识别。此举旨在提升公众辨识能力，防范AI伪造内容引发的欺诈行为，如假冒专家代言、仿冒名人行骗等，尤其保护老年人群免受误导。

中国作为全球人工智能重要力量，积极参与联合国《把握安全、可靠和可信赖人工智能系统机遇促进可持续发展》决议磋商，并于2024年推动其通过。该决议获中美共同支持，标志着两国在AI安全领域加强合作。

此次标识制度注重平衡监管与创新，未强制采用高成本技术方案，而是提供多种低成本标注方式，减轻企业负担。相关标准吸纳了高科技企业专业意见，体现“发展与安全并重”的治理理念。

在全球范围内，AI内容标识已成为共识。西班牙拟立法对未标注AI内容的企业处以高额罚款；欧盟《人工智能法案》亦规定必须明确披露AI生成内容，以增强透明度与公众信任。

中国此次出台的规范，既是完善国内治理体系的关键举措，也呼应了国际社会对AI伦理与社会影响的共同关切，助力构建安全、可信、可持续的人工智能发展环境。

Editor | SONG Ziyan

Supervisor| FANG Linlin