数据要素X | 基于形式化方法的数据智能体高可信安全验证平台

典型案例：基于形式化方法的数据智能体高可信安全验证平台

牵头单位：科大国创软件股份有限公司

1

数据智能体作为人工智能时代赋能数据要素在千行百业实现价值释放的关键组件，为各行业提供了智能化解决方案。目前数据智能体被广泛应用于安全攸关领域，如何保证其在整个生命周期的安全可信成为目前业界急需解决的问题。科大国创软件股份有限公司借助形式化验证、可信计算等核心技术，解决了数据智能体的正确性、抗干扰等难题，为国家数据基础设施建设提供重要安全构件。

图 1  总体架构图

2

一是采用形式化方法增强数据覆盖的完整性，夯实安全监测数据基础。把传统的形式化方法应用于数据智能体的安全性和鲁棒性检测，通过数学证明的方式，达到对模型输入数据的完整覆盖，能有效地检测数据智能体中是否存在影响安全的条件。

二是对数据智能体多维管控，保障数据安全可信。围绕数据智能体正确性和抗干扰性，在形式化方法下对数据智能体的输入数据、智能体模型、输出结果，从标准、规范、安全性和鲁棒性等多维度进行管控，促进智能体检测精度提升、持续优化，提升其安全可信度。

三是应用于数据智能体全生命周期 ，实现全流程数据安全管理。在国防军工、航空航天等安全攸关领域，项目正式推出不足 9 个月就实现标杆客户落地应用，达到产值一千余万元，预计三年内产值达到 l0 亿元，能带动上下游降低安全损失 l00 亿元。在国家战略服务领域，参与多个国家重点项 目、标准制定。

四是推出“平台+解决方案”的产品服务体系，赋能千行百业。建立“基础验证平台+行业解决方案”的产品服务体系，构建了可跨行业适配的验证体系，为人工智能时代的数据要素安全提供重要技术支撑和示范样板。

图 2  应用场景