

壁仞科技首次参与权威AI评测MLPerf获多项全球第一

耀途资本Glory Ventures

2022-09-14

导读：最新发布的通用GPU芯片BR104在BERT模型下达到了英伟达A100单卡性能的1.58倍。

近日，全球权威AI基准评测MLPerf公布了最新AI基准测试结果（MLPerf Inference v2.1），MLPerf由图灵奖得主大卫·帕特森（David Patterson）联合谷歌、斯坦福大学、哈佛大学等共同成立，是国际上最权威、最有影响力的基准测试之一。

耀途投资组合壁仞科技首次参与MLPerf，即以最新发布的通用GPU芯片BR104，拿下数据中心推理评测中自然语言理解（BERT模型）和图像分类（ResNet50模型）两类基准评测“available”（可售产品类别）单卡性能全球第一的优异成绩，其中BR104在BERT模型下达到了英伟达A100单卡性能的1.58倍。

为及时跟踪和评测迅速发展的AI计算需求与性能，MLPerf每年组织2次AI测试。其数据中心场景的评测，综合考察参与厂商的硬件系统和软件优化能力，而此次BR104参加的“Closed Division”（固定任务）类别，则要求参评者在完全一致的模型和环境下进行性能结果的提交，因此这一类别下的结果被认为是全球数据中心产业最具参考价值的AI性能基准测试结果。

与此同时，在BERT模型下，BR104还拿下了4卡整机、8卡整机性能全球第一的成绩，算力能效比也远远领先于其他厂商，达到英伟达A100算力能效比的2.11倍。BERT模型是目前自然语言理解领域应用最广泛的模型之一，也是相关产业应用中最重要的模型。

BR104首次参评MLPerf，就在图像分类和自然语言理解领域证明了其全球第一的AI算力，离不开壁仞科技原创芯片硬件架构与BIRENSUPA软件栈的创新设计。壁仞科技在高性能算子、算子融合、图融合、变长序列合并、端到端异步执行、数据读取和计算负载均衡、混合精度计算等方面进行了深度优化。

壁仞科技表示，ResNet50模型和BERT模型是目前产业客户最重视的AI模型，此次MLPerf最新发布的评测结果，直接证明了BR100系列通用GPU芯片的落地应用能力。目前，BR104已经开始了大规模的客户送测和适配，性能更强大的BR100也已启动落地应用，我们对BR100系列未来的应用前景充满信心。