点击关注
已关注公众号
如今AI行业赛道格局正在悄然转变，云端大模型陷入激烈价格战，Token供需失衡让不少从业者深陷内卷，端侧AI凭借低延迟、低成本、高数据隐私等优势，成为行业新的增长方向。
近期，初创企业 万格智元 正式宣布，完成天使轮与天使+轮两轮融资，累计融资金额达数千万元人民币。本次融资由五源资本、峰瑞资本联合投资，源合资本担任独家财务顾问。这家2025年成立的初创公司，依靠自研核心技术找准赛道缺口，也让行业看到了端侧大模型落地的全新可能。
为何资本纷纷加码端侧AI赛道？
近几年，各大科技企业扎堆研发云端大模型，参数比拼、降价竞争成为常态。持续走低的服务价格，叠加市场Token需求激增、算力供给过剩的现状，让纯云端AI的盈利空间不断被压缩。与此同时，AI PC、AI mini PC、AI NAS等终端硬件快速普及，国产NPU等新一代终端芯片技术不断成熟，硬件层面已经为端侧AI发展打下基础。
但长期以来，端侧AI始终存在难以突破的技术瓶颈。普通消费级设备的内存上限普遍为32GB，真正能够用于模型推理的空间仅有8GB至10GB。受硬件条件限制，传统技术方案只能在终端设备中部署4B参数以内的小型模型，模型功能单一、智能能力薄弱。这也导致端侧AI一直只能作为云端AI的辅助补充，无法独立处理复杂任务。
一边是云端赛道内卷加剧，一边是终端硬件升级却受技术制约，市场出现了明显的空白地带。
万格智元从创立之初就明确发展方向：不做低端端侧小模型，全力攻坚端侧大模型，目标是让大参数AI大模型直接在普通消费设备上稳定运行，这也是资本看好该团队的核心原因。
年轻创业团队，核心实力究竟在哪？
万格智元 组建于2025年，整个团队仅有20人左右，人员结构十分亮眼，近九成成员都是00后。团队核心人员均来自清华、北大两所顶尖高校，还有多名技术骨干曾任职于字节跳动、OpenAI、亚马逊全球AI研发部门，拥有一线AI研发经验。带领这支年轻队伍的创始人，是清华大学计算机系00后在读博士王冠博。
王冠博 的研究方向与公司业务高度契合，他长期深耕端智能领域，博士阶段的核心课题，就是研究如何让AI脱离云端算力依赖，实现在手机、电脑等终端本地运行模型。
在学术领域，他累计发表近十篇顶会、顶刊论文，科研功底扎实；在产业领域，他曾为阿里、美团等知名企业搭建个性化算法服务，充分了解市场真实需求。兼具学术能力与产业经验的创始人，搭配年轻化、高水准的技术团队，成为万格智元稳步前行的核心底气。
硬核技术如何突破终端硬件限制？
想要让大参数大模型在普通终端设备运行，单纯简化模型无法解决根本问题。万格智元自主研发出cPilot端侧算力引擎 + Amis智能平台整套解决方案，搭建起从算法到硬件的全栈深度优化体系。
cPilot是衔接底层硬件与上层软件的中间核心层。团队依靠自研动态稀疏化算法，大幅降低模型运行过程中的内存占用。在此基础上，技术团队搭配非GPU轻量化推理架构、算子优化、流式并行模块调度等多项技术，对大模型推理任务进行拆分与均衡调度，最大化利用终端硬件性能。
这套技术方案落地后交出了亮眼数据：在纯CPU运行环境下，设备仅需4.7GB内存，就可以正常运行35B参数的大模型。和传统方案相比，模型整体推理速度提升约30倍，端侧运行速度至少加快12倍；在落地成本上，设备部署成本直接从万元级降至千元级，大幅降低了行业落地门槛。这套全链路优化技术，真正打破了消费级硬件无法承载大模型的行业魔咒。
商业模式如何落地？
技术最终要依靠商业化实现价值，万格智元采取B端先行、C端跟进的发展策略，分阶段推进市场布局。
在B端业务上，公司目前已经和多家头部硬件厂商达成合作，为AI PC、AI mini PC、AI NAS等硬件产品预装端侧算力引擎和本地部署方案。
按照现有规划，今年将有数万台搭载该技术的硬件设备完成出货，公司预计2026年营收突破千万元。
面对不断迭代的终端芯片，创始人王冠博表示，当前芯片技术还未形成统一标准，过早自研硬件会增加迭代成本，因此团队选择携手硬件厂商共建生态，稳步抢占市场席位。
在C端业务上，团队依托Amis智能平台面向普通用户服务。平台支持用户一键部署模型、聚合各类API，采用端云混合调度模式：用户日常简单任务全部在本地完成，实现0 Token消耗，仅有10%至20%的复杂任务需要调用云端算力。这种模式既降低了用户的使用成本，又保障了数据安全与响应速度，精准贴合大众用户的使用需求。
行业观察：端侧大模型会重塑AI行业格局吗？
综合整个行业来看，端侧AI的崛起是技术、硬件、市场共同推动的结果。云端大模型算力强劲、擅长复杂运算，但网络延迟、调用成本、数据隐私等问题始终难以彻底解决。而端侧大模型恰好补齐这些短板，端云协同也正在成为行业公认的最优发展模式，二者并非相互竞争，而是互补共生。
万格智元的实践充分证明，普通消费级终端完全有能力承载大参数AI模型，端侧AI不再是云端的“配角”。
数千万元的天使轮融资，只是这支00后创业团队的起点。当下端侧赛道参与者不断增多，技术迭代速度持续加快，团队还需要在产品更新、生态拓展、场景落地等方面持续发力。
不可否认，这支年轻的团队抓住了AI行业新风口。万格智元的探索，也为整个端侧大模型领域提供了可落地的参考样本。未来，当越来越多AI大模型走进每一台终端设备，摆脱云端算力的束缚，普惠、安全、高效的全民AI时代，也将真正到来。
往期推荐
融资10亿!上海国资重仓AMD前员工
吴夏青是谁？为什么离职英伟达创业？
点赞鼓励一下
图片来源：网络
本文不作为投资建议