随着人工智能（AI）从云端转向设备端，如何判断新笔记本电脑运行生成式 AI 应用的速率是否优于竞品至关重要。这直接关系到图像生成等任务是从几分钟缩短至几秒，毕竟时间就是金钱。
作为多项 AI 硬件基准测试标准的幕后组织，MLCommons 希望通过推出针对“客户端系统”（即消费级 PC）的性能基准测试，让比价购物更加便捷。
MLPerf Client 工作组成立
今天，MLCommons 宣布成立 MLPerf Client 新工作组，旨在为运行 Windows、Linux 等操作系统的台式机、笔记本和工作站建立 AI 基准测试。该基准测试将“场景驱动”，聚焦真实用户用例并基于社区反馈制定。
首个基准测试将侧重于文本生成模型，特别是 Meta 的 Llama 2。MLCommons 执行主任 David Kanter 指出，该模型已被纳入数据中心硬件基准套件。Meta 还与高通、微软深度合作优化了 Llama 2 在 Windows 上的表现，这对 Windows 设备大有裨益。
Kanter 表示：“AI 正成为泛在计算不可或缺的一部分，现在是时候将 MLPerf 引入客户端系统。我们期待与成员合作，将优秀成果带入客户端并为社区推动新能力。”
苹果缺席引发关注
MLPerf Client 成员包括 AMD、Arm、Asus、Dell、Intel、Lenovo、Microsoft、Nvidia 和 Qualcomm，但不包括 Apple。由于 Apple 并非 MLCommons 成员，且微软工程总监 Yannis Minadakis 担任联合主席，其缺席并不意外。但遗憾的是，近期制定的 AI 基准测试不会涵盖 Apple 设备。
未来展望
无论是否支持 macOS，MLPerf Client 催生的基准测试和工具链仍值得关注。若生成式 AI（GenAI）持续普及，这类指标将在设备购买决策中发挥越来越重要的作用。
乐观来看，MLPerf Client 有望类似 PC 装机对比工具，让用户对特定机器的 AI 性能有明确预期。鉴于高通和 Arm 的深度参与，未来甚至可能扩展至手机和平板领域。目前虽处早期阶段，但前景可期。