上海软件中心（上海市生成式人工智能质量检验检测中心）在2024年12月至2025年3月参加了“人工智能伪造图像鉴定（CNAS-AI001）”能力验证计划，取得了所有图像样本鉴定结论均正确的成绩，并获得“优秀”评价。
“人工智能伪造图像鉴定”是由中国合格评定国家认可委员会（CNAS）秘书处组织的能力验证计划，由公安部第三研究所上海辰星电子数据司法鉴定中心实施。该能力验证计划旨在检验并提升各相关机构在AI伪造图像检验鉴定方面的技术能力和质量，建立不同图像鉴定方法/系统的有效性和可比性，实现本领域国内同行间技术能力的对比，有助于国内人工智能安全治理领域技术水平的整体提升，促进人工智能安全治理行业技术发展。本次计划不限定参加机构所使用的检验检测鉴定的方法程序/标准，举办方向每个参加机构发放一组可能涉及AI伪造的图像文件、作业指导书和结果反馈表等工作文件。参加机构需在规定时间内对图像文件进行鉴定并在线反馈结果。
随着生成式人工智能技术的迅猛发展，人工智能伪造图像在网络上快速传播，容易引起虚假新闻、误导公众的风险。本次能力验证模拟一起使用人工智能伪造图像技术实施肖像侵害的案件，鉴定对象为10张图像文件，需对图像文件进行分析处理，鉴定其真实性。上海软件中心采用自主知识产权的合成人脸图像检测系统，结合人工经验判断，经综合分析得出鉴定结果。
上海软件中心作为中国合格评定国家认可委员会（CNAS）认可实验室，积极参加CNAS组织的各项测试能力验证，检测能力在国内同行业中处于领先水平。此次能力验证计划验证了上海软件中心（上海市生成式人工智能质检中心）在生成式人工智能检测领域的技术成果。未来，上海市生成式人工智能质检中心在生成内容鉴别领域，将进一步深耕伪造视频鉴别、通用生成内容鉴别、生成内容溯源等技术，在生成式人工智能领域提供更优质的质量保障服务。
END
文字 | 陈文捷
图片 | 陈文捷
编辑 | 李晨瑕
