国产芯片大杀器！全栈开源，断网狂飙千亿模型- 大数跨境

新智元

2026-10-14

新智元报道

当前硬件市场面临价格飙升，96GB显存专业卡售价达13.8万元，128GB DDR5内存逼近2.5万元。苹果CEO库克将内存暴涨形容为「百年一遇的洪水」。尽管硬件成本高企，AI公司仍加速向本地端布局，如OpenAI采购大量Mac用于训练Agent，旨在降低云端Token成本并提升数据安全性。

获取硬件仅是第一步，模型适配、框架打通及性能调优仍是开发难点。在后摩智能生态合作伙伴大会上，后摩宣布全面开源整套AI生态软件栈，涵盖从模型获取到产品落地的全链路工具。预计到明年1月，将有15个开源项目陆续上线。

M50芯片量产不足一年，已获超100家客户合作，150多款终端产品确定采用该芯片，其中包括搭载1220亿参数大模型的300克小型设备。这套软件栈正是在这些实际项目中逐步开发、验证并完善的。

全流程AI落地工具链开源

开发离线会议助手等应用涉及模型压缩、推理适配、多模态协同及后期运维等复杂环节。后摩开源的工具链覆盖全流程，分为四层架构：

第一层：模型处理工具。支持量化、编译和精度评估，将模型转换为芯片可用格式。M50芯片原生支持浮点计算，允许开发者直接部署浮点格式模型，减少因强制低精度转换导致的调优成本。

第二层：推理框架、算子库和运行时。作为芯片调度核心，针对M50存算一体架构进行深度优化，决定模型运行速度、内存占用及功耗表现。

第三层：领域套件、模型流水框架和中间件。负责多模型协同工作，如语音转文字、生成纪要及应用存储之间的无缝衔接。

第四层：部署运维工具。涵盖产品交付后的升级、监控及批量设备管理。

开源计划分三批实施：首批适配llama.cpp和vLLM等主流开源框架，降低开发者接入门槛；第二批发布后摩自研推理框架，发挥芯片极致性能；第三批开放中间件及各类工具，助力模型能力转化为商业产品。

开源清单包含ModelZoo（模型示例库）、推理引擎、领域套件以及Kubernetes基础设施和NPU卡集群管理平台。开发者可在GitHub搜索houmo-ai获取postmo-modelzoo、postmo-quantflow等资源。其中，postmo-modelzoo提供开箱即用的实战样例，覆盖Linux、Windows 11和Android三大平台，包含语音、大语言模型、视觉等15个大类。

多场景落地：150+产品验证M50芯片

M50芯片已在Agent Computer、智能移动终端、具身机器人和边缘推理四大场景中落地，适应不同功耗、网络及系统环境。

Agent Computer：轻量级本地大模型终端

联想AI主机P7重300克，最大功耗30W，支持充电宝供电。搭载后摩M50芯片，典型功耗10W，提供160TOPS INT8算力，支持48GB LPDDR5/5X内存。该设备可离线运行1220亿参数大模型，每秒输出50个Token，上下文支持128K，实现「端边Token工厂」模式，避免云端持续付费及数据泄露风险。

Deepshard的Truffle 1定位为私有AI外脑，数据本地存储以保留长期记忆，支持通过MCP接入现有工具，兼容OpenAI接口格式。绿联HomeAgent HA100 Pro将M50用于家庭AI中枢，实现本地隐私数据识别。聊趣智能ClawHouse X1则赋予Agent全息形象，应用于办公助理及教育陪伴场景。

智能移动终端：纯血国产离线算力

针对政务、金融等对数据安全要求极高的行业，长城N90 Pro笔记本采用全栈国产方案，搭载银河麒麟V11系统及M50芯片。在完全断网环境下，可运行35B大模型，每秒生成30个Token，满足离线文档处理需求。M50是国内唯一适配主流操作系统及CPU架构的高算力端边AI芯片。

具身机器人：本地化隐私保护

星灵陪伴机器人利用M50芯片的160TOPS算力，在本地完成情绪感知及长期记忆存储，确保家庭私密数据不出家门。

边缘推理：千亿模型实训一体机

星网教育推出的实训一体机集成4颗M50芯片（LM5040加速卡），提供超3200TFLOPS算力及1.5TB以上内存，支持千亿参数大模型本地部署，配套算力管理平台及课程，解决高校数据上云顾虑。

上述150多个项目的适配方案及调优参数已整合进开源软件栈，形成「工程经验银行」向开发者开放。

技术底层：SRAM存算一体与双路线架构

传统芯片因存储与计算分离，导致60%-90%能耗用于数据搬运。后摩采用SRAM存算一体技术，实现数据就地计算，使芯片面积减少约70%，功耗降至约十分之一。

针对不同大模型需求，后摩提出两条技术路线：2D CIM主打大容量，外接GDDR/LPDDR5内存，适配MoE模型及图像视频生成；3D CIM主打极致带宽，适配Dense模型。3D CIM通过在逻辑芯片底部使用SRAM存算一体，上层堆叠存储进行近存计算，下层进行存内计算，实现双重数据搬运削减。

未来3D CIM存储介质可扩展至Flash、RRAM等更低成本方案。目前下一代3D CIM芯片已取得阶段性成果。硬件虽分两路，但软件栈统一，降低开发者适配成本。

创始人背景与开源理念

后摩智能创始人兼CEO吴强曾参与AMD第一代GPGPU研发及OpenCL标准制定，并在Meta及地平线任职。秉持「带头开放，高效赋能」理念，后摩将核心软件栈开源，赋予终端厂商代码修改、功能二次开发及自主排查Bug的权利，并通过生态伙伴如联想、中电长城、绿联等分享落地经验，共同降低端边AI产品开发门槛。

通过芯片算力、开源软件及开放生态的结合，端边AI普及路径日益清晰。

编辑：摩西所罗门

【声明】内容源于网络

新智元

智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。

内容 16629

粉丝 0

新智元智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。

总阅读456.5k

粉丝0

内容16.6k