北京，2025年8月6日
尽管“智算中心建设已供过于求”的声音不断，IDC最新调查显示，基础设施与IT运营优化仍是企业最不受预算削减影响的IT投资方向。地缘政治、供应链限制等仍是当前基础设施投入的主要挑战。国际数据公司近日发布《中国大模型推理算力市场分析报告》（Doc#CHC52821025，2025年8月），深入剖析中国大模型推理算力市场的建设现状、竞争格局、市场规模，并提出面向大模型与生成式AI的算力建设关键建议。
大模型算力建设现状
根据IDC数据，2024年中国大模型AI基础设施规模达358.9亿元人民币。建设重心正从互联网企业向央国企及其他行业延伸。随着投入增长，提升基础设施自动化水平成为首要任务。调研显示，在基础设施软件现代化方面，企业优先投资自动化与可观测性，其次为扩大开源软件应用及推进大型机现代化。
边缘AI部署成为2025年基础设施建设重点。在计划部署边缘AI的企业中，50%将与云服务商合作，44%选择自建自管，42%倾向电信服务商，38%考虑与系统集成商协作。
相比传统AI，大模型对计算密度、多节点协同、混合部署、扩展性与可持续性要求更高，推动了新型AI基础设施服务模式的发展。
中国大模型基础设施建设典型厂商图谱
大模型与生成式AI的普及催生了新的基础设施需求和服务形态。除以华为、中兴为代表的服务器厂商和以英伟达、昆仑芯为代表的AI芯片企业外，智算中心建设与运营模式逐渐兴起，代表性企业包括九章云极、商汤、GMICloud等。同时，硅基流动等企业推动的MaaS（模型即服务）模式也逐步实现规模化落地。
面向大模型的算力建设重点事项
IDC预计，2024年中国生成式AI基础设施市场规模将达到2091.9亿元人民币。在技术支出快速增长背景下，企业需重点关注以下方面：
- 成本管理：平衡计算性能、响应效率与预算约束，实现高效成本控制。
- 性能优化：确保大模型推理的低延迟与高吞吐，避免性能瓶颈。
- 安全与合规：加强敏感数据保护，强化威胁检测、访问控制与合规审计。
- 网络与存储升级：应对数据量激增，提升网络带宽，部署高性能存储解决方案。
IDC中国人工智能研究总监卢言霞表示，大模型与智能体的快速发展显著提升了对网络、存储与计算资源的需求。企业应提前布局，构建支持自适应、自治理、自运营的智能化基础设施体系。
免责声明
本文内容与数据均源自IDC发布的研究报告，所有权归IDC所有。未经IDC书面授权，任何机构或个人不得以任何形式复制、转载、发布或引用。
