国产算力的竞争焦点正在发生深刻转变。
三年前，模型公司与算力建设方的核心痛点是“有没有卡”；随着国产芯片、服务器及集群方案的日益丰富，新的难题浮现：拥有批量加速卡并不等同于获得同等规模的有效算力。
从单点适配到规模化部署，通信、网络、调度及故障定位中的任何短板，都可能导致大量加速卡陷入等待。当企业同时拥有不同代际、不同厂商的算力资源时，如何将其纳入统一生产体系，更带来了巨大的适配与协同成本。
国产算力竞争的中心，正从单颗芯片性能向整个计算系统的工程能力延伸。
基流科技：从传统网络到AI基础设施的跨越
2019年，陈维离开工作近二十年的中兴通讯。此前他主要负责IP网络产品，关注广域网、园区网及复杂业务环境下的网络功能。离职后，他仍深耕于交换机、芯片和白盒设备领域。
转折发生在2023年。随着ChatGPT引发的大模型热潮传导至国内，算力需求爆发，GPU争夺战开启。经人介绍，陈维接触到了刚成立不久的基流科技。
基流科技成立于2023年2月。创始团队预判，随着模型参数和集群规模扩大，网络与通信将成为AI基础设施的关键瓶颈，因此将网络列为核心业务方向。陈维在网络和白盒交换机领域的积累与此高度契合，遂作为早期成员加入。
从传统通信设备转向AI基础设施，陈维面临业务逻辑与工作节奏的双重变化。AI集群网络更像高性能局域网，核心评价指标集中于高带宽、低时延以及千卡间的数据同步效率。此外，创业公司要求快速响应与迭代，问题需即时发现并解决，这与大厂强调流程和质量控制的模式截然不同。
这一职业转向，恰逢国产算力从“解决有无”进入“提升效能”的关键阶段。
卡能跑起来，只是系统工程的起点
2023年，受海外高端GPU供应限制影响，国内算力市场的首要任务是获取足够多的加速卡。彼时，只要设备能组织起来让模型运行，即可满足基本需求，客户对性能、稳定性及软硬件协同的要求相对宽松。
如今，随着国内AI芯片供应商增多及互联网大厂自研芯片的推出，单纯拥有硬件已不足以构成优势。客户开始关注集群的持续稳定运行、故障快速定位、异构芯片协同以及理论算力向有效算力的转化率。
在规模化部署阶段，系统效率的重要性显著提升。由于不同芯片拥有独立的软件栈、运行库和算子实现，即便模型上层接口一致，底层算子的执行时间、显存管理及通信节奏仍可能存在差异。
例如，某段计算在A芯片耗时3秒，在B芯片仅需2秒。若未调整原有的计算与通信调度策略，两者无法充分重叠，导致部分加速卡等待。这种微小的等待在千卡集群和万次迭代中被放大，将造成显著的性能损失。
模型迁移的核心难点并非框架本身，而是算子补齐与调优、集合通信库适配、显存管理及计算通信重叠策略的重构。同时，运维系统也需针对新平台的监控指标和错误类型进行调整。这已从简单的“换卡”演变为一项涉及全栈的系统工程。
万卡集群中，通信决定有效算力上限
当集群规模扩展至千卡甚至万卡级别，通信成为影响整体效率的关键变量。大模型训练本质上是计算与通信的持续交替过程。一旦数据同步出现延迟，后续计算便被迫停滞，导致整组加速卡等待。
AI训练网络流量具有明显的突发性：计算阶段带宽占用较低，而在同步瞬间需极高吞吐。传统的平均带宽指标无法反映瞬时拥塞和链路降级问题，必须缩小观测粒度至更短的时间切片。
基流科技选择从RoCE网络和集合通信切入，旨在解决集群规模化后的同步效率问题。其早期项目之一便是协助客户解决单卡正常但集群性能不达预期的网络难题。
陈维表示：“我们不制造GPU，而是聚焦算力集群的软硬件协同与通信跨层优化。在提升集群性能方面，通信和网络是最具潜力的突破口。”
几个百分点的性能提升，价值巨大
2023年，基流科技在搭建RoCE网络能力后，推出了VenusCL通信组件。其核心思路是重新分配CPU与GPU在通信过程中的负载，优化数据拷贝与搬移，使计算与通信更充分重叠。
数据显示，在客户已完成基础调优的前提下，该通信库可进一步带来约2%—6%的MFU（模型浮点利用率）提升。在万卡集群中，这意味着既有硬件能够完成更多计算任务，释放出的额外计算能力对应上亿元级别的资源价值。
为获得这几个百分点的提升，基流科技投入了近一年时间。陈维坦言，这一成果得益于2023年的行业窗口期。当时客户急需解决集群搭建问题，愿意给予新方案试错机会。随着方案在实际环境中验证有效，形成了正向循环。如今，缺乏案例的新团队很难再轻易获得大规模生产集群的项目机会。
千卡以上，故障定位需转化为系统能力
集群规模扩大后，依赖工程师逐台排查故障的方式不再可行。“训练Hang”（任务卡住但不报错）是常见难题，可能源于GPU、服务器、网卡或链路。在数千张卡的集群中，传统排查耗时且难以复现。
基流科技曾在3800张卡的集群中遇到此类问题，通过自研的VenusNOC运维监控组件中的Megatrace功能，快速定位到故障节点为某服务器中的一张GPU。移除该节点后，训练恢复稳定。
这表明，即使硬件型号一致，大规模集群内部仍存在个体差异。ECC错误、温度降频、链路降级等局部变化均可能影响整体效率。因此，千卡以上集群必须建立架构级的可观测性和故障定位能力，将模型框架、通信库和底层网络状态关联分析，以实现快速诊断与恢复。
异构芯片并存，降低协同成本是关键
现实中，算力中心往往面临多代际、多型号乃至多厂商芯片并存的局面。异构计算并非简单接入同一网络，不同芯片在计算性能、显存及通信节奏上的差异，可能导致“木桶效应”，效率受制于最弱环节。
对此，一种思路是让高频通信发生在同型号设备内部，跨芯片通信时增加接口封装与调优；另一种思路是根据芯片特性拆分工作负载，如在推理场景中分离Prefill与Decode，让不同芯片承担各自擅长的环节。
陈维认为，开放系统虽难以在所有场景达到单一体系的极致性能，但通过牺牲部分极致性能，换取更高的存量资源利用率和更大的硬件选择空间，整体有效算力反而可能提升。
国产算力无需完全统一，但需降低生态摩擦
随着国产芯片种类增加，用户面临的挑战是如何将不同厂商、不同软件栈的算力组织到同一生产体系中。接口割裂会推高迁移、人才培养和运维成本。
未来趋势并非所有芯片采用相同底层实现，而是在用户调用和系统连接方式上趋同。计算层支持通用框架接口，集合通信层形成统一的调用方式，网络层适配开放协议。这是一个持续迭代、寻找“最大公约数”的过程。
陈维倾向于开放体系，如基于RoCE/Ethernet路线，让客户在网卡、交换机等环节拥有更多选择。但这以性能损失控制在合理范围为前提。只有当用户能以较小的性能代价换取灵活性、低成本和高资源利用率时，开放生态才具备竞争力。
从“有卡可用”到“算力真正可用”，中间隔着的是复杂的系统工程。单卡性能不再是唯一变量，低成本迁移、大规模稳定协同、快速故障恢复及异构资源整合能力，才是国产算力下一阶段竞争的核心。
