大数跨境

北武院联合中国移动研究院完成基于存算一体芯片的具身多模态大模型技术验证

北武院联合中国移动研究院完成基于存算一体芯片的具身多模态大模型技术验证 北京大学武汉人工智能研究院
2026-11-12
0



当前,机器人“大脑”正走向多模态大模型,而本体供电与散热能力有限,业内普遍认为整机可承载的算力峰值功耗不超过100W,端侧算力由此成为制约机器人自主决策的关键瓶颈。《中国科学院院刊》刊发的研究指出,端侧计算系统中超过六成能耗消耗在数据搬运上。


与此同时,国内人形机器人仍大量依赖英伟达Orin、Thor等计算平台。存算一体将存储与计算融合于同一阵列,从架构层面绕开“存储墙”,为端侧高能效计算提供了新路径。国产存算一体芯片、国产大模型与机器人本体的贯通,是构建自主可控具身智能算力底座的重要一步。


近日,北京大学武汉人工智能研究院联合中国移动研究院,将后摩智能M50国产存算一体芯片与机器人集成,实现Qwen3-VL-8B多模态大模型在存算一体芯片上的本地化部署,支持行走、摆臂等26类基础动作的智能编排。双方联合团队完成了从模型优化、芯片部署到机器人整机联调的全链条验证。在同等推理性能下,系统功耗降至现有方案的一半。


技术逻辑

三层优化打通“模型—芯片—机器人”

存算一体将存储与计算深度融合,减少数据在存储单元与计算单元之间的频繁搬运,兼具高算力和低功耗优势。该架构可与传统计算架构形成互补,使机器人有望在同等功耗预算下运行规模更大、能力更强的多模态大模型。为加快存算一体芯片在机器人中的应用,联合团队提出面向存算一体架构的大模型优化与部署方案。


图 | 面向存算一体的多模态大模型优化策略


编译层解决“能部署”。提出面向存算一体架构的计算图融合与算子适配优化策略:通过编译优化将复杂算子拆分为适配存算阵列的基础计算单元,并将Transpose、Reshape等张量操作与相邻算子融合为单个内核,精简计算图结构,减少冗余计算与数据搬运。


量化层解决“放得下、算得准”。提出基于量化敏感度的自适应混合精度量化策略:以校准数据在量化前后输出的余弦相似度度量敏感度,对敏感部分保留较高精度,对其余部分做低比特压缩。在图像任务下,4-bit量化模型保持浮点模型99.5%的精度,相较FP16节省显存超过3.5倍。


调度层解决“跑得快”。提出面向多存算阵列的访存优化方案:将一组相邻算子的中间结果驻留于片上缓存,减少数据搬运;同时采用数据分块与流水并行技术,优化阵列间的数据传输与执行顺序,减少计算等待。


验证结果

15W以内实现大模型驱动的机器人闭环

基于上述方案,Qwen3-VL-8B在存算一体芯片上实现低功耗实时推理,推理速度达20 tokens/s,芯片平均功耗小于15W,支持26种机器人动作的组合编排,打通了“自然语言指令理解—任务自主规划—机器人动作执行”的智能闭环,验证了存算一体技术在机器人低功耗自主运行场景中的可行性。


图 | 存算一体芯片与机器人集成


以本次验证为起点,北武院将与中国移动研究院深化合作,持续在能力升级、架构演进、模型拓展和生态共建上发力;优化端侧推理性能与机器人交互能力,由基础动作编排向复杂环境感知、实时任务规划和自主决策拓展;探索存算一体与通用处理器协同的异构计算方案,支撑“大脑”推理与“小脑”控制在机器人端侧的一体化运行;推动VLA等具身大模型在存算一体芯片上的适配与优化;同时沉淀面向存算一体架构的部署工具链与测试评估方法,推动国产芯片、国产模型与机器人本体协同创新。


未来,北武院也将继续践行首席科学家的原创“通用人工智能”技术路线,依托自主研发的大型社会模拟器,为具身智能自主可控发展提供技术支撑,为湖北打造全国人工智能产业高地、建设中部崛起战略支点提供智能引擎。


别忘了点赞跟在看,关注更多精彩内容

【声明】内容源于网络
0
0
北京大学武汉人工智能研究院
开展人工智能前沿技术研发,推动国家智能社会治理基地建设,深化产学研合作,推进科技成果转化产业化,孵化信息领域高科技企业,引进聚集高端领军人才,开展人才培养、培训以及国际交流合作。
内容 285
粉丝 0
北京大学武汉人工智能研究院 开展人工智能前沿技术研发,推动国家智能社会治理基地建设,深化产学研合作,推进科技成果转化产业化,孵化信息领域高科技企业,引进聚集高端领军人才,开展人才培养、培训以及国际交流合作。
总阅读1.0k
粉丝0
内容285