作者｜沙丘智库研究团队
来源｜沙丘社区（www.shaqiu.cn）
人工智能时代，模型的训练、推理以及规模化落地应用，每一项都在对基础设施提出新的需求。企业需要升级原有IT基础设施，以应对新型工作负载所带来的挑战。
一个专为人工智能构建的全新基础设施范式——AI基础设施（AI Infra）正在兴起，旨在为人工智能的下一波浪潮提供强大支撑。
AI基础设施（AI Infra）是指支持人工智能模型开发、部署和管理的硬件和软件资源的集合，包括计算、网络、存储、工程化工具、中间件和库等，这些组件协同工作，为执行AI任务提供高效、稳定和可扩展的支撑环境。
沙丘智库发布《2025年中国AI基础设施（AI Infra）市场跟踪报告》，深入剖析中国AI基础设施市场现状与趋势，将AI基础设施分为物理基础设施、AI平台和AI服务三层架构，探讨其技术栈、建设必要性及面临的挑战与风险，为相关企业和投资者提供市场洞察与决策参考。
完整报告：沙丘智库《2025年中国AI基础设施（AI Infra）市场跟踪报告》（14页PDF）
随着大模型和生成式AI技术的广泛采用，从算力底座到上层应用之间存在不少断点，针对AI基础设施的单点优化不足以满足复杂的应用场景和高效运行的需求，企业需要更加全面的AI基础设施来支持模型的开发、训练、部署和服务；
2025年3月的英伟达GTC大会上，英伟达提出“AI Factory（AI工厂）”这一概念，将AI开发与工业流程相结合。与传统数据中心不同，AI工厂的目的是用AI创造价值，涵盖从数据采集到训练、微调、大规模推理的整个AI生命周期，当前已使用AI 工厂的包括Uber、Google、Netflix等；
2025年8月，浪潮云也推出国内首个实体AI工厂，提供算力服务、模型生产、智能体应用等端到端服务，以工厂模式驱动生产力升级。
AI工厂（AI Factory）的思想是将AI基础设施打造为可规模化交付价值的工业平台，使未来的算力使用像水电一样方便。参考AI工厂（ AI Factory ），沙丘智库将AI基础设施（AI Infra）技术栈分为三层架构——物理基础设施->AI平台->AI服务，可以理解为“发电厂->电网->用电服务”，每一层都将对性能、成本和可扩展性产生长期影响。
第一层：物理基础设施层
物理基础设施层是为AI量身打造的“计算、网络、存储”组合。在AI时代，企业需要从买一堆服务器、虚拟机按需扩容的传统思路，转向针对不同 AI 场景选用不同芯片、网络拓扑、存储协议的细分策略，在总拥有成本TCO与训练时间、推理延迟、能效等AI性能之间进行权衡。
第二层：AI平台层
AI平台层主要负责编排和调度，将异构算力整合为一个高效协同的算力资源池，从而实现算力资源的灵活、动态、高效调用和分配，减少闲置时间，提高资源利用率。
第三层：AI服务层
AI服务层的目标将AI平台从“黑盒”状态变成一个高效、可审计、财务透明的企业内部人工智能服务市场，使开发者能够快速、合规、可计费的调用标准化AI服务，管理层则能随时进行管理、追踪和审计。
完整报告：沙丘智库《2025年中国AI基础设施（AI Infra）市场跟踪报告》（14页PDF）
报告目录
1.AI基础设施（AI Infra）介绍
1.1 AI基础设施（AI Infra）定义
1.2 国家层面AI基础设施（AI Infra）建设布局
1.3 从AI基础设施（AI Infra）到AI工厂（ AI Factory ）
2.AI基础设施（AI Infra）技术架构
2.1 AI基础设施（AI Infra）技术栈
2.2 第一层：物理基础设施层
2.3 第二层：AI平台层
2.4 第三层：AI服务层
3.企业AI基础设施（AI Infra）建设建议
3.1 建设AI基础设施（AI Infra）的必要性
3.2 AI基础设施（AI Infra）的挑战和风险
*更多生成式AI研究可前往“沙丘智库”小程序查阅
*有任何需求可咨询客服微信：zimu738