核心总结
导语：大模型时代，算力即生产力。在惊叹于AI能力的背后，支撑其运行的底层基础设施才是关键。本文结合InfoQ极客传媒分享，深度拆解月之暗面黄维啸的《Kimi 稳定高效的 LLM 基础设施构建之道》与百度李虎的《百度AI网络的架构创新与优化之路》，解析顶级大厂如何打造坚实的“AI底座”。
Kimi篇：构建稳定高效的大模型基础设施
随着大模型参数量指数级增长，训推集群面临机器故障率高、资源效率低、推理潮汐效应明显及强化学习（RL）资源分配不均四大痛点。对此，Kimi团队提出了一套系统性的解决方案。
全链路稳定性提升系统
针对大模型训练周期长、容错率低的特点，Kimi采取了以下措施确保稳定性：
- 全生命周期监控：通过PreCheck和周期巡检筛选节点，利用连续异步Checkpoint技术实现任务无缝续接，避免算力浪费。
- 智能日志与排障：在CPU到GPU全链路插入监控点，自动分析报错日志并给出具体修复建议（如封禁异常节点），实现自动化排障。
- 自检与自愈机制：故障节点自动排空、重启修复后重新加入集群，确保持续服务能力。
极致资源利用与潮汐调度
为提升GPU利用率，Kimi设计了训推多级潮汐系统：
- 分级优先级调度：确立从线上推理（最高保障）到离线推理（最低优先级）的资源分配层级，充分利用Spot实例等潮汐资源。
- 动态扩缩容：基于K8s节点池实现按需自动扩缩容，支持开发人员动态申请交互式GPU进行调试，并统一托管Tensorboard以方便实验对比。
- 高效模型分发：采用Seed server结合P2P模式，大幅降低大规模模型拉取时的带宽压力。
强化学习中的混合部署创新
针对强化学习流程复杂的难题，Kimi引入Hybrid Deployment（混合部署）方案：
- Sidecar隔离环境：实现训练（Megatron）与推理（vLLM）资源共享，减少资源闲置。
- 显存直传与长尾优化：通过共享内存直接传输Weight，避免落盘开销；配合Partial Rollout策略处理长尾请求，极致压榨硬件性能。
百度篇：构筑高性能AI网络架构
百度侧重于AI网络底层的优化，致力于构建支持超大规模、超大算力和超大带宽的高速网络。
HPN关键技术与组网方案
百度HPN（High Performance Network）支持单集群10万卡以上规模及3.2T超高带宽接入，主要拓扑方案包括：
- 分POD方案：以4096卡为一个POD单元进行管理。
- 多导轨方案：优化通信路径，使高频通信节点间延迟最小化。
自研交换机与快速故障止损
经过十年研发，百度自研交换机已演进至51.2T乃至102T级别。自研硬件实现了秒级监控能力，可将网络故障止损时间缩短至1分钟以内。
自适应路由与控制器优化
为解决传统ECMP路由的拥塞问题，百度引入了两项关键技术：
- 自适应路由（AR）：数据包逐包Hash至不同链路，网卡侧进行乱序重组，相比传统方案通信性能提升最高达20%。
- 控制器方案：针对不支持AR的网卡，通过计算最优转发路径下发指令，进一步将训练性能提升2%-5%。
高精度遥测与跨AZ RDMA实践
在网络可观测性与扩展性方面，百度实现了以下突破：
- 高精度Telemetry：实现10ms精度的流量、队列及丢包采集。
- 交换机PingMesh：具备100%无噪点、秒级感知及1分钟定位能力，确保网络质量透明可控。
- 跨机房训练：成功部署万卡40km双机房方案，100km距离下性能损失仅约3.12%。
- DDC架构：通过信元转发与IP转发分离，实现80km全局无拥塞，并针对DeepSeek MoE及PD分离架构优化Alltoall流量管理。
行业启示：基建决定AI上限
综合两家大厂的技术实践，可得出以下行业洞察：
- 基础设施竞赛本质：大模型竞争的核心在于Infra能力。提升GPU利用率、节省每一秒算力时间，直接转化为巨大的成本优势与利润空间。
- 软硬协同趋势：算法的高效运行依赖底层网络、调度与存储的全面配合。从Kimi的精细化调度到百度的自研硬件，软硬一体化优化已成为必然选择。
- 动态演进能力：面对MoE等新架构及业务变化，快速调整网络与调度策略是大厂基建团队的核心竞争力。
底层基础设施虽不常处于聚光灯下，却决定了AI应用的高度与稳定性。每一次流畅的交互背后，都是无数技术细节在默默护航。
