“申衡”AI原生大模型测评与治理系统亮相2026第二届上海AI应用生态大会

2026年9月22日，在2026第二届上海AI应用生态大会上，上海计算机软件技术开发中心（上海生成式人工智能质检中心）发布了“申衡”AI原生大模型测评与治理系统。上海计算机软件技术开发中心马泽宇作技术分享，围绕人工智能应用中的能力评估、安全防护与持续治理需求，介绍“申衡”的整体架构、核心技术及发展规划，展示了以智能体驱动专业测评能力协同的新实践。

随着大模型加快进入业务场景，人工智能应用正由单一模型走向模型、智能体、工具和数据共同构成的复杂系统。企业关注的问题也随之延伸：系统能否完成实际任务，模型更新后表现是否稳定，运行过程中能否及时发现风险。马泽宇在分享中提出，测评与治理需要从一次性测试向持续评估、监控和治理拓展，支撑模型研发迭代与业务应用，帮助企业判断人工智能系统的实际能力、应用效果与安全风险。

“申衡”围绕AI原生理念，将任务理解、能力调用与执行流程纳入统一架构。用户通过自然语言提出测评目标，系统根据任务需求选择和组合专业能力，推动测评方式从人工寻找功能、配置工具，向按目标组织任务转变。这一设计旨在降低专业工具的使用门槛，让测评与治理更贴近企业实际业务需求。

在整体架构上，“申衡”以轻量化Harness框架支撑端侧运行，支持灵活配置基座模型和多种环境部署；云平台提供用户管理、数据看板、应用空间及端侧智能体管理，算力中心承担关键算法推理。大模型负责理解任务与编排流程，底层专业测评、检测和治理能力负责执行，形成端云联动的服务体系。

围绕“Everything is a Skill”的设计理念，“申衡”将各类基础能力封装为可统一管理和调用的技能组件（Skill），支持持续更新、配置和扩展。目前，系统核心功能覆盖大模型通用与垂域能力评估、安全护栏与评估、AIGC文本图像视频检测、数据投毒检测和数据集质量评估等，并面向安全网关、内容审核和能力监测等应用组织能力组合，为后续接入新技术、新场景提供基础。在全面覆盖《人工智能 大模型 第2部分：评测指标与方法》国家标准相关测试项的基础上，“申衡”还可根据企业的业务场景、垂直领域特点和个性化安全要求，定制测评任务与评价指标，组合调用专业能力，进一步开展深度测评与治理，为企业识别具体应用中的能力短板和安全风险、制定针对性治理措施提供支撑。

针对企业使用云端大模型时的敏感数据保护需求，“申衡”引入自研的OSNIP隐私保护框架，通过对输入表征进行处理，在保留任务所需语义的同时降低原始敏感信息暴露风险，为测评治理过程提供隐私保护支撑。

在能力评估方面，上海计算机软件技术开发中心参与研制《人工智能 大模型 第2部分：评测指标与方法》国家标准，相关指标从理解能力和生成能力两个方面展开，共包含140项具体评测指标，覆盖文本、图像、语音及多模态场景，“申衡”可适配全部相关测试项。面向垂直领域中难以用固定答案衡量的实际问题，“申衡”自研了开展基于开放问题的能力评估，推动测评从封闭题目向开放任务、从单轮交互向多轮交互拓展，以评估模型处理真实任务的表现。

在安全治理方面，自研安全大模型，面向个性化安全需求，将安全准则纳入判断过程，围绕内容在何处违背准则、涉及哪条准则以及原因进行分析，为不同业务场景设置安全边界提供技术支持。在AIGC内容治理方面，介绍了自研的围绕生成图像检测和图像水印的工作，为内容识别与来源追溯提供技术路径。上述技术为“申衡”的能力评估、安全治理和内容检测提供支撑。

面向未来，马泽宇介绍了“申衡”“从Agent到Infra”的发展方向，即从智能体驱动的任务执行，逐步走向支撑人工智能应用的测评治理基础设施。后续将围绕智能体安全测评、智能体能力评估和具身智能测评等领域持续推进，并将相关成果集成到“申衡”平台；同时，进一步构建基于用户意图的能力编排引擎，提升复杂环境下测评与治理流程的组织和部署能力。

“申衡”此次亮相，展现了上海计算机软件技术开发中心将专业测评技术与AI原生交互、智能体编排相结合的探索。随着应用场景拓展，持续评估系统能力、识别运行风险并触发治理动作将成为人工智能进入业务流程的重要支撑。“申衡”将沿着这一方向推进能力建设，为人工智能应用的可靠运行和持续迭代提供服务。