大数跨境

【AI加油站】第二百三十部:万字干货!《训练、推理、智能体:在AI原生世界中超越App》深度解读:开源AI的万亿级阳谋(附下载)

【AI加油站】第二百三十部:万字干货!《训练、推理、智能体:在AI原生世界中超越App》深度解读:开源AI的万亿级阳谋(附下载) 人工智能产业链union
2026-11-03
12
导读:【AI加油站】第二百三十部:万字干货!《训练、推理、智能体:在AI原生世界中超越App》深度解读:开源AI的万亿级阳谋(附下载)

核心总结

在AI浪潮席卷全球的背景下,Linux基金会AI与基础设施总经理、OpenStack联合创始人Mark Collier发表了题为《训练、推理、智能体:在AI原生世界中超越App》的演讲。该演讲深入剖析了AI时代的底层逻辑,指出基础设施是AI发展的基石,开源模型正在重塑行业格局,并详细阐述了AI原生计算的三大支柱:训练、推理与智能体。

AI与基础设施的深度绑定

Mark Collier明确指出:“你无法将AI与基础设施剥离。”谷歌CEO皮查伊透露,谷歌每月处理的Token数量已达480万亿,较一年前增长50倍。然而,AI的快速扩张也面临四大挑战:

  1. GPU稀缺:算力供应紧张;
  2. 能源消耗:电力成为瓶颈;
  3. 延迟问题:响应速度需进一步优化;
  4. 数据重力:海量数据的流转与存储难度加大。

过去应用开发侧重代码与产品设计,而AI时代的核心竞争力转向底层基础设施。强大的算力集群、网络及存储能力是大模型落地的前提。

开源AI崛起与闭源护城河的瓦解

DeepSeek R1的发布引发全球科技股震荡,印证了开源力量的崛起。数据显示,开源模型在智力水平上已逐渐追平闭源模型,DeepSeek R1更成为Hugging Face史上点赞最多的模型。

DeepSeek创始人梁文锋曾表示:“在颠覆性技术面前,闭源系统形成的护城河是短暂的。”随着开源模型能力的提升,行业价值正向技术栈顶部转移,包括应用层、定制微调及AI安全等领域。开源社区正通过降低底层技术成本,终结闭源模型的暴利时代。

AI原生计算的三大支柱

AI原生计算(AI-Native Computing)是指专为“模型而非人类”作为主要交互对象设计的基础设施,其核心在于处理持续学习的系统、Token流和智能体工作流。演讲将其拆解为三大支柱:

支柱一:训练(Training)

训练环节涉及数据输入、参数调整及模型输出。目前开源生态高度统一,PyTorch占据主导地位,Hugging Face已宣布全面放弃TensorFlow并专注PyTorch。未来,围绕PyTorch、ONNX及DeepSpeed的生态系统将进一步巩固。

支柱二:推理(Inference)

推理是将模型商业化的关键路径,其规模预计是训练的50倍。该领域竞争激烈,主要技术包括:

  • vLLM:已成为开源GenAI推理的事实标准,支持跨平台运行各类模型;
  • LLM-d:主打Kubernetes上的分布式推理,有望成为“AI的操作系统内核”。

Mark Collier提出比喻:大语言模型如同新的操作系统。其中,推理运行时(如vLLM)相当于内核,智能体协议(如MCP、A2A)相当于系统调用,智能体工作流(如LangChain)相当于用户态应用,而工具插件则相当于外设。

支柱三:智能体(Agents)

智能体由模型、工具及协议构成。未来软件服务将从关注“人的打字速度”转向关注“Agent的运行速度”。AI专家Karpathy指出,“上下文工程”将取代“提示词工程”。此外,小语言模型(SLM)因具备高性价比,正成为智能体的标配。谷歌已将A2A(Agent2Agent)协议捐赠给Linux基金会,推动Agent通信标准的开放与统一。

开源生态:社区即重心

单纯的代码或权重开源不足以构建健康生态,还需具备项目治理、中立所有权、互操作性标准及活跃社区。回顾历史,从2010年的OpenStack到2015年的Kubernetes,再到2025年的AI原生技术栈,业界始终通过巨额投入推动开放云时代的发展。开源正在迅速拉低软硬件成本,促使创新价值向顶层流动。

结语:拥抱开放与协同

基于马斯洛需求层次理论,AI已从底层的算力基础延伸至顶层的自我实现,成为重塑社会的底层架构。Mark Collier强调:“训练、推理、智能体是AI原生计算的三大支柱。社区是引力中心,协同一致必将通向开放的未来。”对于开发者与从业者而言,理解底层逻辑、拥抱开源并与Agent协同,是适应AI时代的关键。

【声明】内容源于网络
0
0
人工智能产业链union
人工智能产业链联盟,旨在汇聚全球人工智能领域的创新力量,共同推动人工智能技术的研发、应用与产业化。联盟以基础技术、人工智能技术及人工智能应用为核心,打造了一个完整、高效、协同的人工智能生态链。
内容 3407
粉丝 1
人工智能产业链union 人工智能产业链联盟,旨在汇聚全球人工智能领域的创新力量,共同推动人工智能技术的研发、应用与产业化。联盟以基础技术、人工智能技术及人工智能应用为核心,打造了一个完整、高效、协同的人工智能生态链。
总阅读202.0k
粉丝1
内容3.4k