大数跨境

AI处理速度受到云平台左右

AI处理速度受到云平台左右 日经中文网
2026-09-22
9
导读:随着任何人都可以使用的中国开源AI普及,云平台的重要性正在提高。使用中国Kimi K3模型的测试显示,由于云服务性能不同,处理时间最多可相差7倍……

即使以“Kimi K3”作为AI模型,不同云平台的处理时间相差最高可达7倍。随着中国开源AI的普及,云平台的重要性正日益凸显,其性能差异直接决定了AI的响应能力与输出质量。

云平台性能致使AI处理时间相差7倍

德国Forge12 Interactive对“新云(Neocloud)”等17家公司的云服务进行了测试。在使用中国月之暗面“Kimi K3”模型输出500 Token的测试中,美国Fireworks AI仅需6.11秒,而美国Morph则耗时40.32秒,处理时间存在约7倍的差距。

导致这一差异的原因在于,不同云平台采用的半导体(GPU类型与数量)和软件配置各不相同。GPU之间的通信质量,以及将大量用户提问高效分配至不同GPU的软件调度能力,均直接决定了云服务的处理时间与响应速度。

云端运行环境左右AI输出准确率

云平台的性能不仅影响处理速度,也直接关系到AI的输出结果。美国调查公司Artificial Analysis针对中国智谱(Z.AI)的“GLM-5.2”模型进行了云端运行性能测试。

在长文阅读理解等三项测试中,正确率最高的美国Together AI达到50%至70%,而最低的美国Blackbox AI平均不足30%。分析指出,AI模型推理的调整技术及单次提问使用的计算资源量等因素,都会显著影响最终回答的准确率。

开源AI普及加速“新云”赛道竞争

在特定企业管控闭源AI的背景下,能提供服务的云企业数量有限。但随着开源AI模型的全面普及,非大型云平台也能更容易地接入并提供高性能AI服务。在“新云”赛道中,除了AI模型的选择,回答所需时间与准确度已成为企业竞争的核心焦点。

高效AI云企业获资本市场青睐

能够充分发挥AI能力的云企业在金融市场上获得了高度评价。以高效使用Kimi和GLM-5.2的Fireworks AI为例,其估值在7月达到175亿美元,是9个月前的逾4倍。此外,Together AI在7月的融资中估值达到83亿美元,9月更传出多家AI云初创企业相继完成数十亿美元融资的消息。

【声明】内容源于网络
0
0
日经中文网
各类跨境出海行业相关资讯
内容 22626
粉丝 1
日经中文网 各类跨境出海行业相关资讯
总阅读262.5k
粉丝1
内容22.6k