2024年11月，中国人民银行《推动数字金融高质量发展行动方案》旨在以数据要素和数字技术为关键驱动，加快推进金融机构数字化转型，支持金融机构以数字技术赋能提升金融“五篇大文章”服务质效，并提出了强化数字金融风险防范、加强数据和网络安全防护在内的23项任务，夯实数字金融发展基础，完善数字金融治理体系，推动我国数字经济高质量发展。
政策挑战
2024年11月，中国人民银行《推动数字金融高质量发展行动方案》明确指出，金融机构应强化模型和算法风险管理，健全模型安全评估与合规审计体系，建立健全全流程数据安全管理机制，定期进行数据和网络安全风险评估，识别潜在风险。
2024年上半年国家金融监督管理总局发布《银行保险机构数据安全管理办法（公开征求意见稿）》提出，为规范银行保险业数据处理活动，切实保障数据安全，在数据加工过程中应当对人工智能模型开发应用进行统一管理，模型算法投入使用时，应当开展数据安全审查，在算法设计、训练数据选择和模型生成时，采取有效措施保障个人合法权益。
标准化实践
随着智能化浪潮的发展，以大模型为代表的智能化能力逐步进入智慧金融各种场景的落地应用之中，如智能问答和决策、智慧风控等。与此同时，数据作为大模型训练的重要燃料，在模型生成、训练、精调等过程面临数据窃取、数据泄露、数据篡改等安全风险，训练生成的过程中也有可能遭到安全攻击。
因此，面向监管发布的明确要求和应用落地安全风险，构建面向智能化场景的数据安全能力尤为重要。企业需要有效识别并全面管控数据安全面临的风险挑战，形成全面的安全能力屏障，构建更为严密的数据安全防线，以应对新技术应用引入的新挑战。
2024年，中国信通院联合互联网、金融、电信、能源行业企业及安全厂商、科研院所等二十余家单位共同编制《大模型数据安全评估规范》，旨在防范大模型在生成、使用、运营阶段面临的数据安全风险，着力提升智能化数据安能力总体水位。
《大模型数据安全风险评估规范》围绕大模型研发、应用过程中的数据提供方、模型提供方和模型使用方的不同角色，面向涉及的数据处理活动，分析数据安全风险和对应安全要求，提出行之有效的大模型场景数据安全评估指引。
未来，我们将根据现有标准化研究基础，持续开展行业企业交流和贯标，与模型研发和部署各关节相关企业探讨优秀落地实践，助力企业提升智能化浪潮中的数据安全水平，支撑大模型在企业安全合规地落地应用。欢迎有意向的企业联系我们！
联系方式：
大模型数据安全风险评估 张老师 15501008926（微信同号）