大数跨境

端侧 Agent 的最后一公里:量化、指令集、部署,一次讲透

端侧 Agent 的最后一公里:量化、指令集、部署,一次讲透 DataFunSummit
2026-09-02
6

大模型很强,但 Agent 想真正走进日常,必须在手机、PC、汽车、IoT 这些端侧设备上跑起来。可端侧 AI 的难题摆在眼前:算力有限、功耗敏感、部署复杂。模型塞不进终端,推理速度跟不上,落地找不到路径——这是当下端侧 Agent 最真实的困境。


这次不聊概念,把端侧 Agent 落地的三层底座一次拆开。
第一层:算力怎么解锁。Arm SME2 指令集在 MNN 推理引擎里的实践,以及基于 SME2 的端到端图像编解码加速——同样的模型,怎么在端侧跑得更快、更省。
第二层:模型怎么瘦身。腾讯混元超低比特(2/1.25 比特)量化技术,如何让大模型在端侧真正跑起来;Qwen-Omni 模型又如何重构端侧多模态交互。
第三层:部署怎么落地。ExecuTorch 在 Arm 平台上的边缘 AI 部署实战,Windows on Arm 在 AI PC 时代的端侧 Agent 新机遇。算力、量化、部署三层讲透,全是工程落地,没有一句空话。
这些内容,都来自 Arm Create 2026 上海站与深圳站的「边缘 AI 专场」——9 月 9 日上海西岸美高梅酒店、9 月 11 日深圳湾万丽酒店,全天三个专场 30+ 实战分享,Arm 工程师、腾讯、阿里、原力灵机等一线团队现场拆解。
免费报名,名额有限,先到先得。


上海站扫码报名

9 月 9 日 9:00-18:00

上海西岸美高梅酒店

深圳站扫码报名

9 月 11 日 9:00-18:00

深圳湾万丽酒店

如果你的 Agent 也正卡在端侧这最后一公里,这场会值得你来

上海站:
深圳站:

【声明】内容源于网络
0
0
DataFunSummit
DataFun社区旗下账号,专注于分享大数据、人工智能领域行业峰会信息和嘉宾演讲内容,定期提供资料合集下载。
内容 1358
粉丝 0
DataFunSummit 北京鸿润嘉诚企业管理咨询有限公司 DataFun社区旗下账号,专注于分享大数据、人工智能领域行业峰会信息和嘉宾演讲内容,定期提供资料合集下载。
总阅读45.1k
粉丝0
内容1.4k