头条 | 《人工智能安全治理框架》重磅发布！促进行业安全有序发展

人工智能的飞速发展，给世界带来巨大机遇，也带来各类风险挑战。

9月9日上午，作为2024年国家网络安全宣传周的重要活动，网络安全技术高峰论坛暨粤港澳大湾区网络安全大会在广州南沙举行。会上，全国网络安全标准化技术委员会正式发布《人工智能安全治理框架》1.0版，推动各方就人工智能安全治理达成共识，促进人工智能安全有序发展。

记者了解到，制定本框架旨在落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险。

框架主要分为4个板块：人工智能安全治理原则、安全风险、技术应对与综合治理措施、安全开发应用指引。

第一板块是治理原则，阐述了人工智能安全治理的理念和原则。框架提出了“包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享”的原则。

框架明确，秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促进人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，构建各方共同参与、技管结合、分工协作的治理机制，压实相关主体安全责任，打造全过程全要素治理链条，培育安全、可靠、公平、透明的人工智能技术研发和应用生态，推动人工智能健康发展和规范应用，切实维护国家主权、安全和发展利益，保障公民、法人和其他组织的合法权益，确保人工智能技术造福于人类。

第二板块对人工智能可能面临的安全风险进行了梳理和归类，包括内生安全风险和应用安全风险。内生安全风险包括偏见歧视、训练数据被投“毒”等风险；应用安全风险包括用于违法犯罪活动，加剧“信息茧房”等风险。

第三板块针对不同类型的安全风险，从技术、管理两方面提出防范应对措施。针对内生安全风险，提出安全开发运维、输出内容标识等技术手段，并推动负责任研发应用体系、供应链安全保障等管理措施；针对应用安全风险提出安全防护机制、最终用途追溯等技术手段，并实施分类分级管理、人才培养等管理措施。

第四板块提出人工智能安全开发应用指引，明确人工智能模型算法研发者、服务提供者、重点领域使用者和社会公众等不同主体，分别提出人工智能安全指引规范。

记者从大会上获悉，全国网络安全标准化技术委员会将积极开展人工智能安全标准的研制，用高质量的标准支撑框架的有效落地实施。随着人工智能技术的不断发展和应用，全国网安标委也将对框架内容进行持续更新和完善。