可信AI丨详解2026年首批AI赋能安全评测体系与核心要点

内容安全审核能力评测

本项评测面向内容审核服务提供方开展专项安全测试。覆盖内容审核机审系统、人工审核能力、审核系统成熟度、内容勘误能力和内容巡查能力等核心维度，通过质量高、范围广、有代表性的测试数据集，实现对内容安全审核系统的功能完整性、性能稳定性、场景适配性的全维度测试，全面核验内容审核服务全流程的风险防控能力，助力企业完善内容安全治理体系，保障内容生态安全合规。

深伪检测服务能力评测

本项评测面向深度合成检测服务提供方或相关系统建设方开展专项评测。是应对深度合成技术滥用、防范AIGC内容安全风险的核心评测项目，其中人工智能生成文本检测能力为本次首批新增评测方向。本次评测覆盖深度合成视频、深度合成音频、AIGC视频、AIGC图像、人工智能生成文本五大核心内容检测方向，构建系统化、多维度的评测体系：

1.深度合成音频检测服务能力评测

本次评测从功能、性能、服务能力三大维度展开全面评测。功能维度重点评测基础检测能力、指定人声检测能力、变体音频检测能力、局部声音伪造检测能力、多语种声音检测能力等核心指标；性能维度核心核验检测准确性、鲁棒性、系统运行性能等关键指标；服务能力维度全面验证服务部署、服务扩展、多渠道接入、系统安全等配套能力，全方位检验深度合成音频检测服务的全场景适配能力。

2.AIGC图像检测服务能力评测

本次评测主要从功能、性能、管理能力、可审查性四大维度构建评测体系。功能维度重点评测场景化图像检测、风格化图像检测、不同光照条件图像检测等核心能力；性能维度核心核验检测能力、安全性、泛化性等关键指标；管理能力维度全面验证用户管理、数据管理等体系建设情况；可审查性维度重点评测系统开放性、易用性、安全性等配套能力，系统地检验AIGC图像检测服务的全流程技术水平。

3.深度伪造人脸视频检测服务能力评测

本次评测从功能、性能、服务能力三大维度开展全面测评。功能维度重点评测基础检测能力、指定人检测能力、小人脸检测能力、少人脸检测能力等核心指标；性能维度核心验证检测准确性、鲁棒性、系统运行性能等关键指标；服务能力维度全面验证服务部署、多渠道接入、视频格式支持等场景适配能力，全面检验深度合成视频检测服务的实战化防控水平。

4.AIGC视频检测服务能力评测

本次评测围绕功能、性能、服务能力三大核心维度展开。功能维度重点评测基础检测能力、视频生成方法分析、视频风格检测等核心能力；性能维度核心验证检测准确性、鲁棒性、系统运行性能等关键指标；服务能力维度全面验证服务部署、服务扩展、多渠道接入等配套能力，全方位验证AIGC视频检测服务的技术能力与落地适配性。

5.人工智能生成文本检测服务能力评测

作为首批评测项目，本次评测围绕人工智能生成文本检测服务构建了系统化的评测框架和评测指标体系，覆盖功能、性能、服务能力三大核心维度，包含基础检测能力、多样化内容检测能力、生成方法检测能力、检测结果判定能力等17个核心指标项，全面检验人工智能生成文本检测服务的技术先进性与场景适配能力，助力企业应对AI生成文本带来的内容安全与合规风险。

AI赋能安防行业能力评测

1.安防行业大模型应用成熟度－智能视图分析能力评测

作为首批评测项目，本评测聚焦安防行业大模型在智能视图分析场景的应用实效，评测体系涵盖应用场景覆盖度、技术能力、安全能力三大核心维度，形成包括通用安防场景覆盖度、复杂安防场景覆盖度、人脸识别、物体识别、行为识别、视觉检索、模型安全、内容安全共计11大类、21个具体测试项，实现对安防行业大模型应用能力的多维度检测。

AI赋能网络安全能力评测

1.安全大模型－基础网络安全能力评测

本次评测围绕安全大模型的通用安全能力与基础网络安全领域安全能力进行评测。通用安全能力包括安全问答、安全语言翻译、安全知识库、安全任务编排、安全工具调用，安全数据处理、安全报告生成、大模型内生安全等。基础网络安全领域安全能力包括恶意流量检测、入侵检测、访问控制、漏洞检测、恶意代码检测、渗透测试、攻击面检测溯源、WEB攻击检测、恶意邮件检测、代码审计、威胁情报分析、威胁狩猎等。

2.安全大模型－数据安全能力评测

本次评测围绕安全大模型的数据资产智能管理、数据安全智能检测、数据安全风险智能评测、数据安全智能防护等数据安全领域能力。数据资产智能管理中涉及数据格式智能转换、数据智能识别、数据智能分类分级、数据血缘分析、数据智能测绘等。数据安全智能检测涉及数据暴露面智能识别、数据访问异常智能识别、数据处理异常智能识别、数据传输异常智能识别、智能数据安全分析等。数据安全风险智能评测涉及数据泄露智能溯源、数据安全漏洞智能检测、数据安全智能审计、数据合规智能检测等。数据安全智能防护涉及数据安全智能防护、数据安全智能共享、API安全智能防护等。