大数跨境
0
0

AI 云驱动产业智能化跃迁

AI 云驱动产业智能化跃迁 百度Geek说
2025-09-08
18
导读:本文整理自 2025 年 8 月 28 日百度云智大会 - 技术与产品主论坛,百度集团副总裁侯震宇的主题演讲《 AI 云驱动产业智能化跃迁》。

本文整理自2025年8月28日百度云智大会技术与产品主论坛,百度集团副总裁侯震宇的主题演讲《AI 云驱动产业智能化跃迁》。

在沈抖博士发布新一代AI云基础设施及AI Agents落地案例后,本次论坛聚焦于如何打通大模型技术到商业应用的“最后一公里”。百度智能云正通过全栈式AI基础设施升级,助力千行百业把握智能时代机遇。

大模型进入价值释放临界点

过去三年,人工智能从模型探索迈向与行业深度融合阶段,大模型正处于全面释放价值的临界点。当前呈现三大趋势:

  • 从训练主导到应用深化:AI推理和应用场景需求将超越训练,真正价值体现在实际落地。
  • 从快速响应到深度思考:面对复杂任务与长上下文场景,深度推理能力成为核心衡量标准。
  • 从规模为王到效能优先:算力边际效益递减背景下,提升效率、优化效价比成为竞争焦点。

与此同时,大模型正由“Copilot”向具备自主决策能力的AI Agent进化,应用边界持续拓展;强化学习在后训练阶段作用凸显,显著增强交互与推理能力;基础架构也从稠密模型转向MoE稀疏模型,大幅提升智能密度与性价比,支撑更大规模部署。

百舸AI计算平台5.0:全栈支撑AI价值落地

为应对上述趋势,百度推出百舸AI计算平台5.0,在算力、训推、应用层面系统升级,围绕AI Agents、开源、多模态、效价比、重构、场景落地、自主可控等关键词提供全栈支持。

百舸5.0构建了覆盖芯片、超节点到AIDC的自主可控算力体系,并针对强化学习、MoE等新范式打造专用加速器,同时强化数据工程、领域适配与全链路优化,推动AI深入产业场景。

昆仑芯P800:国产算力规模化突破

百度昆仑芯P800已完成大规模集群验证,率先实现3.2万卡自研集群点亮,有效训练效率超98%。客户可基于国产芯片以更低成本、更短周期获得高性能模型服务。

在推理方面,P800单卡吞吐提升4倍,百万tokens推理成本降至数元级别,满足高并发场景“跑得快、稳、起”的需求。同时广泛兼容主流框架与算子库,大幅降低适配成本,已在多个行业完成落地验证。

昆仑芯超节点:极致算力密度与通信优化

面向万亿参数MoE模型对算力吞吐的更高要求,百度推出全栈自研的昆仑芯超节点,显著提升单位机柜算力密度与推理吞吐,实现同等投资下更高业务产出。

通过自研技术实现节点间高带宽、低时延全互联通信,有效破解大模型训练与推理中的通信瓶颈。配套全域智能运维系统,降低客户运维负担,聚焦模型创新与应用落地。

强化学习与PD推理:新一代计算范式加速

针对强化学习与PD(Prefill-Decode)分离式推理两大新兴范式,百舸提供领先的框架与组件支持,包括智能调度系统、推理加速引擎与分布式KV Cache服务,助力客户保持AI竞争领先优势。

强化学习框架通过系统级协同设计,支持30,000+并发沙箱环境,结合AIAK训推加速技术,系统吞吐提升2–9倍,显著加快模型迭代与智能体进化速度。

推理服务方面,重构调度、引擎与KV Cache系统,在万卡集群中实现吞吐提升50%,首Token延迟(TTFT)降至0.5秒:

  • 调度系统:采用“资源-流量-模型”三级协调机制,实现集群全局负载均衡。
  • 推理引擎:优化混合并行策略,最大化吞吐并降低不同长度请求延迟,隐藏通信与调度开销,充分释放GPU效能。
  • KV Cache系统:实时感知集群状态,通过高速传输与异步调度,实现Prefill与Decode阶段间高效数据流动,杜绝冗余计算。

具身智能:AI走向物理世界的关键场景

作为Physical AI的核心赛道,具身智能已进入“百舸争流”阶段——谁更快完成模型搭建、仿真验证与产品落地,谁就掌握先机。

百度百舸提供行业领先的模型加速能力、一站式全链路服务与开箱即用工具链,满足快速迭代需求。目前已服务北京人形等具身智能先锋企业,加速产品商业化进程。

通用智算方案:自主可控、绿色低碳、产业赋能

为支撑AI在各行业的广泛应用,百度提供高度通用的全栈AI智算解决方案,具备四大核心优势:自主可控、超大规模、绿色低碳、产业赋能

目前,百度建管运一体化方案已在全国落地多个智算中心项目,累计完成12,000P算力建设,运营管理1,500P算力,在IDC智算专业服务市场排名全国第二。

智能时代已非未来序曲,而是正在发生的主旋律。它以前所未有的速度重塑产业格局。百度智能云致力于成为企业最值得信赖的同行者,以领先技术、开放平台与融合生态,携手共赴产业智能化跃迁的新征程。

【声明】内容源于网络
0
0
百度Geek说
1234
内容 347
粉丝 0
百度Geek说 1234
总阅读3.2k
粉丝0
内容347