随着人工智能技术及应用不断更新，人工智能发展和安全的平衡引发国际各界的高度重视。数据作为模型生成、训练和使用的重要燃料，贯穿人工智能发展的生命周期。随着以大模型为代表的新一代人工智能快速发展，对数据供给，尤其是质量高、规模大、种类多的训练数据集提出更高要求。
在此背景下，中国信通院牵头研究编制了《大模型数据安全评估要求》。本标准面向多个角色，覆盖大模型各环节相关方，贴合各角色的视角，拆分各自的数据处理活动及对应的安全风险，兼顾管理要求和技术措施，适用于大模型各场景的数据安全能力评估与提升。
本标准适用于大模型研发或部署应用的企业，为其数据准备、模型开发、模型应用等阶段数据安全能力开展全面评估，识别潜在风险，提升安全能力水平。
在与企业交流和贯标评估的过程中，总结观察如下实践经验。
一是精准识别安全要求，对标业界优秀实践。企业开展AI数据安全的工作指引，可以从法规标准清单以及业界的优秀实践两部分展开。对此，企业可梳理国家法律法规、本行业监管要求等上位指导要求，结合现行的国家和行业标准，内化形成本单位合规要求清单。
二是“主动合规”体系建立，掌握安全主动权。对于想要掌握安全主动权搭建全套体系的企业，可建立包含数据安全、算法安全、应用安全、服务安全、通用安全的管理组织和制度要求，组合安全技术能力，建成有效运行、可闭环管理的运营机制。
三是以评促建，定位优势和不足。企业完成体系建设之后，可通过标准对标、场景梳理进行评估分析，一方面找到优势，另外也定位不足，根据差距逐步完善，通过能力提升，最终达到体系构建目标。
首批大模型数据安全能力评估中，中国工商银行工银智涌大模型通过评估。第二批大模型数据安全评估即将启动，欢迎联系咨询！
联系人：张老师15501008926