本周 WAIC 期间，与业内同仁交流后得出一个显著结论：端侧 AI 的重要性将日益凸显。
以苹果手机为例，网信办近日确认，包括 Apple 智能在内的多款手机端侧生成式 AI 服务已完成备案。
需明确，此次备案针对的是端侧 AI。此前关于苹果在大模型领域落后、Siri 进展缓慢的论调并不成立。若三年前苹果将 Siri 接入云端模型以分析用户短信、聊天记录及应用数据，将严重侵犯隐私，这显然是不可行的。
隐私数据不出手机是底线，这也决定了苹果近年来深耕端侧模型的战略方向。尽管当前超大参数云端模型备受瞩目，旨在探索智能上限，但随着 AI 应用场景的分化，并非所有任务均需调用千亿参数模型，手机端便是典型例证。
国内专注于端侧模型的代表企业是面壁智能，其地位可类比端侧领域的 DeepSeek。在全球范围内，面壁智能的模型性能稳居前三。相较于云端模型追赶海外 SOTA 的现状，国内在端侧模型领域甚至具备领先优势。例如，三星盖乐世 AI 的端侧能力便采用了面壁的 MiniCPM 系列。在通过备案的 7 款手机端侧生成式 AI 服务中，面壁智能是唯一一家以端侧模型能力参与备案的大模型企业。
结合与会交流及对端侧模型的深入理解，以下从四个维度进行剖析。
#01 端侧模型解决了什么问题？
除隐私保护外，端侧模型的核心优势在于响应速度、离线可用性及算力成本优化。
苹果在 iOS 27 中对 Siri 进行了重大升级，使其支持连续对话、屏幕内容理解及应用调用。对于涉及多步骤操作的任务（如查询日程、联系人员并安排会议），若每一步均需云端往返，延迟将难以接受。本地化处理能显著提升高频、连续判断的效率。
此外，端侧模型保障了网络不稳定场景下的可用性。无论是车辆进入地下停车场，还是机器人处于信号盲区，本地推理确保持续工作而不中断。
在特定意图集合与清晰工具调用协议的场景下，轻量化模型既能满足设备体量限制，又能保证高可靠性。更重要的是，端侧模型将算力成本转化为设备购买时的一次性投入，避免了云端模型随调用量增加而不断攀升的运营成本。
以智慧园区为例，若数百个摄像头的视频流全部上传云端分析，推理成本极高。合理的架构是在边缘设备完成初步分析，仅将异常结果上传云端。这种模式不仅降低了数据传输与算力成本，更提升了响应速度。对于摄像头、汽车、机器人等长期运行设备，端侧 AI 在商业上更具性价比。
#02 端侧模型和云端模型的关系
端侧与云端模型并非替代关系，而是形成明确的分工协作架构。
以苹果为例，翻译、摘要及个人数据强相关功能由本地小模型处理；复杂任务则交由 Private Cloud Compute 或第三方大模型。面壁智能 CEO 李大海也提出类似观点：个人上下文管理及高频推理置于端侧，疑难任务上交云端。
例如，指令“约见老王”，本地模型可快速检索联系方式并核对日程，无需上传通讯录；若需研究对方公司近况并准备提纲，则将整理后的任务移交云端。这种机制既保护了隐私，又发挥了云端算力优势。未来分工原则清晰：离用户近、高频、涉密任务本地化；高算力需求任务云端化。
#03 端侧不是压缩云端模型
端侧模型并非云端大模型的简单缩小版，其技术难点截然不同。
云端模型追求智能上限，可通过增加参数、数据与算力来优化，成本具有一定弹性。而端侧模型面临内存、电池、芯片算力的硬性约束。模型过大无法部署，功耗过高导致发热掉电，这些问题无法通过增加服务器解决。
端侧模型研发如同“戴着镣铐跳舞”，需在有限资源下平衡智能水平、响应速度与能耗，且不能干扰其他应用运行。因此，端侧模型不能采用“先训练大模型再蒸馏”的路径，而必须从训练伊始就考量目标芯片、内存占用及精度要求，实现模型结构、量化方式、推理框架与芯片适配的协同优化。
如何在极度受限的参数与功耗下保留模型智能，是极具挑战的技术命题。云端模型致力于推高智能上限，端侧模型则致力于将尽可能多的智能塞进有限设备中。
#04 面壁是怎么做端侧模型的？
与大模型行业主流的“扩大参数规模”路径不同，面壁智能专注于提升同等规模模型的“知识密度”，即在固定空间内放入更多有效信息。
2023 年，面壁转向端侧模型研发，首创“模型风洞”方法论。通过在大规模训练前进行小规模实验验证数据、架构与方案，快速排除无效路径，将算力集中于高效方向。其早期的 MiniCPM 模型仅 2B 参数，性能却超越同期部分 8B 模型。
面壁坚持“原生端侧训练”理念，从训练第一步即引入低精度量化，使模型适应端侧计算环境，最大限度减少压缩带来的能力损失。同时，面壁高度重视数据治理，认为“做模型就是做数据”。在 MiniCPM 各版本训练前，团队会对上百个数据集进行严格清洗，避免低质数据浪费宝贵的参数空间。
此外，面壁正探索"AI for AI"模式，发布完全由 AI 编写代码的生产级训练框架 ForgeTrain，用于训练 MiniCPM5-1B 等模型。该框架让 AI 参与代码编写、实验运行及硬件适配，甚至分析结果以迭代下一代模型。面壁联合信通院发布的《AI For AI 标准》，是行业内首个公开 AI 参与模型研发全流程标准的尝试，构建了较高的技术壁垒。
#05 具身智能
具身智能是端侧模型的重要应用场景，机器人对端侧能力的要求甚至高于手机。出于隐私保护、动作连贯性及运行稳定性考虑，机器人的感知、判断及部分控制必须在本地完成。
面壁在 WAIC 上开源了面向机器人的具身智能模型体系 MiniCPM-Robot，包含负责通用操作的 MiniCPM-RobotManip 和负责目标跟踪导航的 MiniCPM-RobotTrack。
MiniCPM-RobotManip 是一个 1.5B 参数的通用 VLA 模型，旨在解决单一任务模型的局限性，实现对不同物体、环境和任务的泛化理解，并将理解直接转化为动作。其关键创新在于引入视觉 Token 压缩技术，将历史观察纳入当前决策，既保留了上下文记忆，又控制了计算量，使机器人能完成如制作三明治等连续复杂任务。
MiniCPM-RobotTrack 专注于移动过程中的具身目标跟踪。它结合自然语言指令与视觉信息，预测轨迹点，使机器人能在动态、遮挡及复杂环境中持续跟随目标并完成避障。
纵观近两年 WAIC，端侧智能正从技术概念转化为产品能力。最新的小模型智能水平已媲美早期 GPT-4。随着手机、汽车、机器人等终端对端侧能力的依赖加深，端侧智能时代已然开启。未来，儿童玩具、耳机、家电等各类设备都将因拥有“小而美”的智能大脑而被重塑。
面壁发布的行业伙伴计划，旨在通过提供基础模型、AgentVerse 平台及商业化渠道，与合作伙伴的行业认知、私有数据及真实场景相结合，共同构建“行业认知 + 端侧 AI"的新一代护城河。端侧模型的应用爆发在即。
