核心总结
导读:随着大模型从云端向手机、PC及汽车等终端设备迁移,端侧智能已成为通用人工智能(AGI)落地的关键路径。面壁智能CTO曾国洋提出以“知识密度”衡量技术迭代,饿了么物流技术终端负责人王云生则展示了端智能在即时物流场景中的实战应用。本文融合两份专业分享,深度解析端侧AI的底层逻辑与行业实践。
一、AI时代的生存思维:重构需求满足方式
当前人工智能领域的讨论常引用“人工智能时代思维层次”图,结合马斯洛需求层次理论,探讨个体在AI浪潮中的适应策略。基础层对应生理与安全需求,强调基础必备与稳定秩序;成长层涵盖社交、尊重与自我实现,侧重沟通交流与存在感。
专业解读:AI并非单纯替代人类,而是重构需求满足的路径。善用大模型者,正将其转化为“外挂大脑”——以搜索引擎辅助记忆,用生成式AI拓展思维边界,并将传统服务接入智能生态。正如行业观点所述:“智能需求的普及意味着缺乏智能化的产品将被时代淘汰。”
二、知识密度:大模型技术演进的核心指标
面壁智能CTO曾国洋提出了衡量大模型技术迭代的关键概念:知识密度。
1. 知识密度的定义与计算
简而言之,知识密度反映了模型效果与推理成本之间的关系。由于评测指标复杂,更准确的定量计算方式为:
知识密度 = 等效参考模型规模 / 实际模型运算规模
例如:若某7B参数模型的效果等同于Llama 70B模型,则其知识密度为 70 / 7 = 10。
2. 知识密度的演进规律
面壁智能团队提出“大模型知识密度法则”:知识密度平均每100天翻倍。从2023年至2024年,MiniCPM系列模型通过以更小参数实现更强性能,不断刷新这一上限。
专业解读:相较于芯片领域18个月的摩尔定律周期和电池领域10年的能量密度倍增周期,模型知识密度的倍增速度极快。高密度意味着更高的技术先进性与效率。
3. 提升知识密度的三大路径
-
• 数据质量优化:监督微调(SFT)通过调整模型偏好,使其学习更具价值的内容,从而提升效果。 -
• 合成数据策略:利用上一代强模型生成数据训练小模型。研究表明,“结构化”或“简单”的数据(如分步推理、标准解题套路)比直接输出答案更易于模型学习。 -
• 思维链增强:通过强化学习生成高知识密度的思维链数据。在解决复杂问题时,长思维链能提升小模型的表现;而在特定难度下,存在一个效率最优的模型尺寸。
核心观点:实现AGI的技术基础已具备,当前的核心挑战在于提升效率。
三、端侧ChatGPT时刻:以小博大的技术突破
面壁智能展示了MiniCPM 3.0和MiniCPM-V 2.6在端侧的卓越能力,体现了“以小博大”的技术趋势:
-
• 性能越级:4B参数模型性能超越GPT-3.5;Function Calling能力比肩GPT-4o。 -
• 长文本处理:支持无限长文本,性能优于Kimi,且在超长文本下保持稳定。 -
• RAG增强:中文检索能力排名第一,生成效果超越Llama3-8B。 -
• 多模态理解:单图、多图及视频理解能力在20B以下参数模型中达到SOTA水平,Token密度两倍于GPT-4o。 -
• 高效部署:量化后仅需6G内存,解码速度提升30%,达18 tokens/s。
专业解读:端侧模型的核心价值在于降低推理成本并摆脱对云端算力的依赖,使大模型能够真正落地于手机、PC、汽车及具身智能等场景。
四、端智能实战:饿了么即时物流场景落地
饿了么物流技术终端负责人王云生分享了端智能在即时物流领域的具体实践。
1. 即时物流的行业特征
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2. 图像识别优化商户信息
针对骑手“找店难”痛点,饿了么利用Tim Image Model 2分类结合OCR技术,对骑手上传的门头照进行真实性判断与信息清洗。系统可自动将英文标识(如KFC、McDonald's)映射为标准中文名称(肯德基、麦当劳),显著提升商户信息质量及指引准确性。
3. 基于传感器数据的运动状态推断
通过端智能SDK采集加速器、陀螺仪、磁场、WiFi及GPS等多源传感器数据,利用LIMU BERT模型进行自监督与监督学习,精准推断骑手的运动状态(静止、步行、急行、骑行、扶梯、直梯等)。
技术架构:
-
• 自监督学习:无标签数据 → LIMU BERT → Decoder → 预测数据 -
• 监督学习:有标签数据 → LIMU BERT → Classifier → 运动状态分类
客户端SDK模块:包含数据采样、处理(缓存/封装/编码)、网络管理、边缘计算及多源数据收集模块。
4. 构建数字世界辅助履约
基于运动状态刻画,饿了么构建了高精度的“数字世界”,实现全流程数字化指引:
-
• 通过骑步行切换推断停车点,聚合得出最优停车位置。 -
• 根据室内运动姿态判断楼宇电梯/扶梯分布。 -
• 识别异常逗留以提供必要帮助。
系统覆盖从接单、骑行、到店取餐到送达用户的全链路环节,解答骑手关于位置、入口、楼层及路径的各类疑问,大幅降低新手门槛,提升履约效率。
5. 其他端智能应用场景
-
• 多源融合定位:结合基站、卫星、WiFi、蓝牙及PDR技术,提升复杂场景下的定位精度。 -
• 个性化推荐:基于客户端行为数据,向骑手推荐符合其偏好的订单。 -
• 场景化指引:动态展示楼栋号、找店指引及室内路线。
6. 未来形态:客户端智能体
饿了么正在探索“客户端智能体”,即具备主动服务能力的AI语音助手。其功能包括语音交互、自动化操作(如开工、查看热力图)、信息查询(天气、收入、规则)、异常提醒(催单、无法进入建议联系顾客、超时提醒及奖励提示等)。这标志着端智能从被动工具向主动智能体的演进。
五、未来展望:通向更高知识密度与智能化
曾国洋指出,不应高估短期技术发展,但不可低估长期应用价值。未来技术需攻克记忆机制、双工交互及学习效率等挑战。在应用层面,应面向未来模型能力布局,开源将成为常态,而非通用能力将构成壁垒。大模型正在重新定义软件架构:基座模型 + 垂域模型 + AI基础设施 + MCP生态 + 智能应用。
王云生则描绘了端智能在骑手场景的未来——拥有“懂他”的AI助手,实现从工具到伙伴的转变。
结语
从面壁智能的“知识密度”理论到饿了么的“端智能落地”,清晰展现了大模型从云端走向端侧、从通用走向垂域、从工具走向智能体的发展路径。知识密度的提升让端侧模型具备“以小博大”的能力,而端智能的落地则为一线工作者提供了高效助力。
最后建议:在AI时代,最好的生存策略是善用大模型替代传统搜索,拓展思维边界,并将传统服务接入智能生态。
本文基于面壁智能CTO曾国洋《端侧模型的知识密度:迈向AGI的关键技术实践》与饿了么物流技术终端负责人王云生《端智能在即时物流场景的落地》两份文档整理撰写。

