作者｜周永亮
过去几年，AI 行业热衷于比参数、拼算力、讲融资。但模型一旦离开展台，客户的问题立刻具体起来：数据会不会泄露？设备能不能 24 小时运行？响应够不够快？噪声大不大？
这些问题，正把端侧 AI 推到产业舞台中央。
10 月 14 日，后摩智能在北京举办生态合作伙伴大会。极客公园创始人兼 CEO 张鹏主持圆桌对话，邀请麒麟软件副总经理姚翎、聊趣智能科技创始人黄隽实、罗格数据 CTO 刘学鹏、寅谱计算 CMO 陈展凌、后摩智能 AI 系统总工程师陈仲铭，共同探讨端侧 AI 的商业化路径。
他们分别来自操作系统、应用、数据工程、整机集成和芯片领域，核心议题只有一个：端侧 AI 何时能真正成为一门生意？
黄隽实分享了养老院「数字家人」的案例。由于涉及老人隐私、身体状况等敏感信息，数据不能随意上传云端；同时系统需全天值守且保持静音。在此场景下，隐私、算力、功耗和噪声不再是单纯的技术指标，而是决定用户是否使用的关键前提。
在企业市场，刘学鹏指出客户最关心「私域化专属」。AI 将成为触及核心业务的「数字员工」，必须部署在公司内部而非依赖外部云服务。当模型处理发票、财报等数据时，数据边界是商业落地的硬性要求。
对于央企及关键岗位，安全门槛更为严格。姚翎强调，只要 AI 工具部署在互联网上，涉密数据便不可触碰。本地安全是不可商量的底线。
然而，需求成立不等于生意成立。陈展凌表示，客户更在意首字响应速度、机器噪音及系统稳定性等体验细节。端侧 AI 的难点在于将通用能力转化为可持续交付的专业服务，这涉及模型适配速度、硬件成本控制及软件开发门槛。
底层技术上，陈仲铭指出端侧算力面临算力、带宽与功耗的「不可能三角」。后摩智能致力于通过开放软件接口，推动边界外扩。
刘学鹏预测，在中国，AI 落地将是「端侧为主，云端为辅」。端侧作为个人或企业的专属大脑，云端则负责知识流动的社会大脑。AI 从「能聊天」走向「能干活」，本质上是一道信任题。
以下是圆桌对话实录（部分删减）。
01 安全、私域、体验：端侧 AI 商业化的三道真实门槛
张鹏：去年大家都在说端侧 AI 元年，今年变成了「商业化元年」。在真实的落地过程中，客户掏钱时最在意的是什么？
黄隽实：落地挑战众多。以上海养老机构「数字家人」场景为例，核心诉求有三：一是安全隐私，家庭私密信息极度敏感，本地算力提供最佳数据兜底；二是决策能力，需 24 小时值守并具备持续计算能力；三是静音，后摩芯片能满足此需求。
刘学鹏：企业客户最关心「私域化专属」。AI 作为触及核心业务的「数字员工」，必须内部部署以构建专属数据与经验边界。例如财税场景，发票、财报等数据天然不适合云端推理。我们采取「数字专家团」模式，从小切口切入，满足岗位特定能力需求，这是端侧落地的关键驱动力。此外，端侧设备与机器人本地直联，解决了工业场景下的推理与时延问题。
张鹏：除了隐私、私域化部署，端侧真正的核心推动力还有哪些？
姚翎：党政、央企等关键岗位客户「不敢用」互联网 AI 工具。因 AI 能从碎片信息中拼凑出完整涉密内容，本地安全是唯一前提。
陈展凌：省 Token 非主要痛点，客户体验才是。端侧设备需静音甚至液冷，首字生成时间直接影响感受。极致的系统架构集成与优化是持续使用的关键。
陈仲铭：端侧存在算力、带宽和功耗的「不可能三角」。后摩已解决功耗问题，正通过 M 系列提升算力，并利用先进工艺提升带宽，以满足千行百业的差异化需求。
02 下一步，在于生态、成本与规模化
张鹏：底层芯片的地基打牢，端侧的优势才能真正发挥。未来一年，各位对端侧 AI 最期待的发展目标是什么？
陈展凌：端侧 AI 尚未普及，落地场景不够丰富。期待更多软件商向端侧转型。
刘学鹏：核心诉求是「Day 0 适配」。国内基础算力与模型间的壁垒在于生态，希望后摩实现所有模型的即时适配。
黄隽实：希望突破「不可能三角」，尤其是成本控制。极致成本决定大多数企业的商业化成败。
姚翎：希望量产整机快速落地，在下一代芯片发布前实现规模化应用。国产芯片需在实战中迭代，期待设备大卖，供应链备货充足。
陈仲铭：后摩的目标是夯实硬件、优化软件，全力支撑合作伙伴的商业化服务，回应供应链、适配及安全等诉求。
03 从算力到交付，差的不只是技术
张鹏：哪怕芯片和场景都准备好了，要真正变成一台有效运行的设备，工程上还需要下哪些苦功夫？
陈展凌：芯片、模型和 OS 只是必要条件。主板、散热、机柜设计及体验优化需与模型深度适配。利用国内产业链优势，完成端到端最终交付。
刘学鹏：客户只为「最后一百米」买单。核心门槛包括：数据打通与质量整合；将 AI 无缝嵌入现有工作流；以及通过工程技巧确保概率性模型的稳定性。面对个性化需求，必须「用 AI 交付 AI」，调教出安全可信的专属专家。
黄隽实：工程化是让 AI 可用、好用、用得起的关键。从海量开源组件中选出最适合方案，并沉淀为可迭代的工程方法，是核心能力。
姚翎：最大的工程是「生态工程」。通过开放与聚合，提前适配碎片化算力架构与模型，构建端侧 AI 基础设施，验证用户需求。
张鹏：从后摩的角度，你们希望建设一个怎样的生态？
陈仲铭：选择软件开源，全面开放接口、架构和 API。让开发者将后摩产品视为趁手工具，修好底层基建，支撑上层应用的多样化发展。
04 端侧 AI 的未来生态
张鹏：未来端侧 AI 的商业逻辑会与云端类似吗？
陈展凌：无论云端还是端侧，客户均为结果买单。价值链顶端是 AI 智能体应用层，端侧配套生态的核心任务是支撑应用在端侧运行。
陈仲铭：推理时代市场必然百花齐放，后摩致力成为其中最具竞争力的一员。
姚翎：后摩存算一体技术已从 M30 合作至 M50 量产，支持本地运行 35B 大模型，证明端侧 AI 具备商业价值。呼吁伙伴走向客户端，获取正向反馈，共同打造中国端侧算力力量。
刘学鹏：中国开源生态是端侧 AI 的天然土壤。未来端侧设备形态将超越想象，如 AI 录音卡等新兴品类。终局判断为「端侧为主，云端为辅」：端侧承载高价值私有数据，作为专属大脑；云端负责社会知识流动与协作。
张鹏：好。非常感谢几位的分享。
