大数跨境

腾讯混元Hy4昇腾部署指南曝光,正式版将首次加入视觉能力!

腾讯混元Hy4昇腾部署指南曝光,正式版将首次加入视觉能力! 智猩猩AI
2026-11-03
0
导读:Flash版本也在路上~
智猩猩AI整理
编辑:林夕

腾讯混元Hy4正式版,出现了新的部署线索。


11月2日,vLLM-Ascend开源仓库新增一项名为“Add Hy4 deployment guide”的PR,为Hy4补充面向昇腾950DT的部署指南,涉及单机、多机和Prefill-Decode分离部署。


Hy4部署指南PR首页


此前,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生已公开预告:


Hy4正式版将强化长程任务与真实生产力任务能力,提高思维链效率,并首次引入视觉理解,主打性价比的Hy4 Flash也将于近期推出。


如今,新的部署文档提交,为这次升级补上了工程侧的进展。


此次提交的PR编号为 #20671。根据提交说明,新增指南围绕Hy4的 W8A8-MXFP8部署展开,同时更新模型支持矩阵和文档导航。


Hy4模型参数与部署要求


除了单机和多机方案,指南还涉及Prefill-Decode分离部署,即将输入处理与逐Token生成两个阶段分开执行。


Hy4支持矩阵与文档入口


这类方案主要面向模型服务端,便于根据不同阶段的计算特点安排资源。


相比部署方式,Hy4正式版最直接的变化,是新增视觉理解能力。



按照腾讯此前的公开预告,正式版将在Hy4 Preview的基础上,进一步提升复杂任务处理能力,并支持视觉理解。


与视觉理解一同升级的,还有长程任务处理能力和思维链效率。据腾讯此前预告,Hy4正式版将重点强化各类长程任务及真实生产力任务表现。


此外,Hy4 Flash也将于近期推出,在继承Hy4视觉理解与Agent能力的基础上,进一步追求性价比。


这意味着,围绕Hy4的更新将同时覆盖复杂任务能力与使用成本两个方向。


根据此次提交的部署文档,Hy4语言模型部分约770B参数,每Token激活约49B参数,不包含视觉组件和独立MTP层。


此外,模型配备一层原生MTP,约10B参数、每Token激活约0.7B参数,用于支持投机解码,这组参数规模与此前Hy4 Preview披露的信息一致。



随着部署指南提交,Hy4正式版的准备工作又有了新进展。


此前预告的视觉理解、长程任务及思维链效率升级,将如何落地,还有待正式发布揭晓。


目前,腾讯尚未公布具体发布日期、价格、完整评测及权重开放安排。


END


关注+星标,获取AI前沿进展与开源一线动态

【声明】内容源于网络
0
0
智猩猩AI
智猩猩旗下AI技术内容账号,关注AI大模型掀起的范式革命,追踪AI大时代涌现的开源项目。
内容 2487
粉丝 0
智猩猩AI 智猩猩旗下AI技术内容账号,关注AI大模型掀起的范式革命,追踪AI大时代涌现的开源项目。
总阅读12.0k
粉丝0
内容2.5k