随着DeepSeek、Llama、文心等开源基础模型的技术迭代加速,以及多模态、长上下文等新兴场景的涌现,AI推理系统评测正面临着多场景适配需求激增、测试工具个性化支持困难等多个维度的挑战。
在此背景下,中国信息通信研究院(简称“中国信通院”)-人工智能软硬件协同创新与适配验证中心依托AISHPerf基准测试体系,构建了一套跨平台适配、多场景覆盖、支持个性化扩展的推理系统测试框架,并在2025人工智能产业及赋能新型工业化大会开放智算分论坛上正式发布AISHPerf推理系统测试工具。
AISHPerf推理系统测试工具主要具有以下核心功能特点:
零代码敏捷接入:通过网页操作完成测试场景构建,无需掌握底层代码。
多样化负载测试能力:“模拟+真实”双负载引擎,覆盖多类型/多规模场景。
智能性能边界探测能力:基于动态负载调节机制,快速定位系统极限性能。
全链路软硬件监控体系:实时监控并计算系统资源利用率与能效情况。
可视化报告支持:自动生成测试数据报告,覆盖性能、能效、可靠性等指标。
依托AISHPerf推理系统测试工具,中国信通院正式开启推理系统测试工作,面向芯片厂商、一体机、云服务商、框架引擎,以及模型推理服务需求方、行业应用方等在内的各类主体,提供包括性能测试、能效测试、可靠性测试等在内测评服务,为智算算力提供选型支撑,衡量框架引擎推理性能优化水平,欢迎业界各单位报名参与。
企业可通过以下途径进行报名:
AISHPerf推理系统测试工具申请使用可访问AISHPerf基准测试平台官方网站(http://aishperf.aiinnovation.com.cn/),进入工具开放专题页进行报名。
肖老师
17607196151
xiaoyuhang@caict.ac.cn
王老师
13717736383
wangyahan@caict.ac.cn
李老师
13661159206
lilun@caict.ac.cn
人工智能软硬件协同创新与适配验证中心由中国信息通信研究院联合成立,位于北京市经济技术开发区科谷一街8号院。
人工智能软硬件协同创新与适配验证中心作为人工智能权威软硬件测试与适配验证服务平台,面向包括芯片、服务器、集群、开发框架及工具链、智算设施及平台等在内的人工智能软硬件系统需求侧及供给侧,提供软硬件兼容适配、基准及测试验证、全栈软硬件产业培育等服务能力,加速推动我国软硬件协同发展、加快国产方案应用及规模推广、营造自主发展良性生态、应用赋能带动产业升级。
通过中心能力建设,加快推动我国人工智能软硬件适配验证、系统协同和应用生态构建,有力支撑大模型等关键算法技术原始创新和赋能落地,加速形成新质生产力推动千行百业高质量转型升级。期待与业界关心和关注我国人工智能软硬件协同生态的伙伴沟通交流!

