大数跨境

问道AI+丨算力从“可用”走向“好用”: 软硬件适配的距离有多远

问道AI+丨算力从“可用”走向“好用”: 软硬件适配的距离有多远 CAICT人工智能
2026-10-20
5

  问道AI+  

过去一年,国产算力接连迈过关键节点:DeepSeek-V4 大模型团队依托国产芯片完成了部分训练流程,智谱 GLM-5.3-Flash 首次在大规模流量中采用国产芯片集群提供服务。从推理到训练,从技术验证到真实流量,国产算力正集体跨越“能不能用”的门槛,转向“好不好用”的深水区。

参数标得很高,实际体验却常常“打折”,落差从何而来?“跑通”与“可用”之间还有多远?适配效果又该如何量化?软硬件适配的卡点、生产级可用的差距、量化评测的尺子、产业生态的瓶颈与格局,值得逐一梳理。


一、追根溯源:性能“打折”卡在哪

参数是“静态”的,实际使用却是“动态”的,体验落差首先来自软硬件适配。从芯片到应用,中间隔着算子库、通信库、深度学习框架等多个软件层,任何一层没有适配好,性能就会打折。常见的卡点包括算子缺失需要补写、通信库与网络拓扑不匹配、框架版本不兼容等。适配的本质,是让硬件与软件之间每一层都“对得上、跑得顺”,这比单纯堆砌参数复杂得多。


二、由通到优:跑通不等于好用

对齐每一层只是第一步,生产级可用还有更硬的标准。“跑通”只是验证了功能可达,距离生产级可用还有本质差距:生产环境要求性能达标、长稳运行、弹性扩展,不仅要看单卡能否推理,还要看多卡扩展效率能否线性提升、长时间运行性能是否衰减、故障能否自动恢复。功能跑通解决的是“能不能用”,适配优化回答的才是“好不好用”。


三、立尺为标:让适配有据可依

适配效果好不好,不能靠主观感受,需要一把可以横向比较的尺子。过去行业缺少统一标尺,各家评测结果难以横向对比。中国信通院推出的人工智能软硬件基准体系 AISHPerf,正是面向这一痛点提供的公共评测方案:标准基础方面,AISHPerf 依托 ITU、IEEE 和工信部人工智能标准化技术委员会,已发布近十项国内外标准;测试工具方面,AISHPerf 3.0 已正式开源,并贡献给开放原子开源基金会;截至 2026 年上半年,已累计完成测试数百次。适配效果好坏,由此有了一套可复现、可比较的量化体系。

这套标准的价值体现在两个层面:对供给方,标准明确了优化的方向和目标,避免盲目对标;对需求方,标准降低了选型的信息门槛,不必每家都从零开始验证。目前 AISHPerf 相关标准已在 ITU、工信部人工智能标准化技术委员会等渠道持续推进,目的都是让软硬件适配从“玄学”变成“科学”。


四、破除孤岛:最大瓶颈在经验封闭

有了尺子,再看行业生态,当前最大的瓶颈不在某个具体技术点,而在于适配经验的封闭性——信息不互通、经验不共享。软硬件适配是一个“踩坑”的过程,很多坑是全行业都会遇到的共性问题,但企业大多各自为战、自己踩坑自己填,经验沉淀在内部、不对外公开,导致行业整体适配成本居高不下,重复造轮子、重复踩坑。推动 AISHPerf 基准与系列标准建设的目标,正是把适配效果的度量方法公共化、把共性适配经验标准化,让经验可复用、结果可比对,降低全行业的试错成本。


五、格局渐明:国产算力形成三个梯队

瓶颈之外,国产算力产业自身的格局也在逐步清晰。经过近年发展,国产算力大致形成三个梯队:第一梯队生态相对成熟,算子覆盖度高,主流深度学习框架适配完善,通信库与集群管理工具成熟,在大模型训练、推理等核心场景经过大规模业务验证,能够支撑生产级部署;第二梯队可满足主流场景需求,通用算子基本覆盖、主流模型能够跑通,但在长尾算子与特殊场景(如大规模集群、极端长上下文)的适配成熟度仍有差距,多在特定场景、特定规模下达到生产可用;第三梯队处于功能验证与场景试点阶段,主要用于技术验证和轻量场景。

整体来看,国产算力的适配成熟度正快速提升,第一梯队与国际主流水平的差距持续缩小;但生态建设并非一蹴而就,仍需芯片厂商、框架厂商、大模型厂商与行业用户共同迭代、长期积累。


六、选型有方:给企业的四条建议

看清格局,选型才有章法。对于正在做产品选型的企业,尤其是首次采用国产产品的传统行业客户,有四条务实建议可供参考。

第一,不要只看纸面参数,要测端到端的业务性能:不只看算力峰值与显存大小,而要用真实的业务模型和流量特征做测试,看实际的吞吐量、延迟与资源利用率。第二,优先选择生态成熟、有标准验证的方案:生态成熟度直接决定后续适配成本与试错概率,尽量选择有公开基准测试结果、经过多场景验证的产品。第三,预留合理的适配周期:很多项目只规划了硬件采购时间、未给适配优化留足时间,导致上线延期风险,大模型集群项目尤需把适配调优周期纳入规划。第四,循序渐进,从推理场景切入:先以推理部署验证成熟度,再向训练、微调场景拓展,风险更可控。


七、未雨绸缪:一个短周期的判断

把时间尺度收窄到 6 个月,这个领域最确定的判断与最需要警惕的变量,或许更能说明它当下所处的位置。

最确定的判断——适配能力将成为国产算力选型的核心考量,行业将从“只看芯片参数”转向“看真实场景下的端到端表现”。

最担心的变量——适配经验长期处于碎片化状态,行业可能长期重复“踩坑”。这也正是推动 AISHPerf 开源与标准化的初衷:让适配能力可沉淀、可复制,降低全行业的试错成本。

适配是国产算力背后一条“看不见的赛道”。它决定了芯片能力的天花板能被拉到多高,也决定了大模型产业能站在什么样的算力底座上向前走。让适配有标准可依、有方向可循,国产算力才能真正从理论性能走向真实效能。

 

作者简介


赵俊芳,中国信通院人工智能研究所软硬件与创新生态部专家,长期从事人工智能软硬件研究,深度参与人工智能软硬件基准体系 AISHPerf 的研发与标准化工作。主要研究方向:人工智能软硬件研究咨询、适配评测与生态合作。

联系方式:15991673533



【声明】内容源于网络
0
0
CAICT人工智能
中国信通院人工智能研究所官方公众号。关注我们,了解中国信通院人工智能工作动态,了解人工智能技术研究、标准制定、评估测试、行业应用、产业发展、监管政策及国际交流等前沿进展。
内容 285
粉丝 2
CAICT人工智能 中国信通院人工智能研究所官方公众号。关注我们,了解中国信通院人工智能工作动态,了解人工智能技术研究、标准制定、评估测试、行业应用、产业发展、监管政策及国际交流等前沿进展。
总阅读32.5k
粉丝2
内容285