腾讯混元Hy4正式版,出现了新的部署线索。
11月2日,vLLM-Ascend开源仓库新增一项名为“Add Hy4 deployment guide”的PR,为Hy4补充面向昇腾950DT的部署指南,涉及单机、多机和Prefill-Decode分离部署。

此前,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生已公开预告:
Hy4正式版将强化长程任务与真实生产力任务能力,提高思维链效率,并首次引入视觉理解,主打性价比的Hy4 Flash也将于近期推出。
如今,新的部署文档提交,为这次升级补上了工程侧的进展。
此次提交的PR编号为 #20671。根据提交说明,新增指南围绕Hy4的 W8A8-MXFP8部署展开,同时更新模型支持矩阵和文档导航。

除了单机和多机方案,指南还涉及Prefill-Decode分离部署,即将输入处理与逐Token生成两个阶段分开执行。

这类方案主要面向模型服务端,便于根据不同阶段的计算特点安排资源。
相比部署方式,Hy4正式版最直接的变化,是新增视觉理解能力。
按照腾讯此前的公开预告,正式版将在Hy4 Preview的基础上,进一步提升复杂任务处理能力,并支持视觉理解。
与视觉理解一同升级的,还有长程任务处理能力和思维链效率。据腾讯此前预告,Hy4正式版将重点强化各类长程任务及真实生产力任务表现。
此外,Hy4 Flash也将于近期推出,在继承Hy4视觉理解与Agent能力的基础上,进一步追求性价比。
这意味着,围绕Hy4的更新将同时覆盖复杂任务能力与使用成本两个方向。
根据此次提交的部署文档,Hy4语言模型部分约770B参数,每Token激活约49B参数,不包含视觉组件和独立MTP层。
此外,模型配备一层原生MTP,约10B参数、每Token激活约0.7B参数,用于支持投机解码,这组参数规模与此前Hy4 Preview披露的信息一致。
随着部署指南提交,Hy4正式版的准备工作又有了新进展。
此前预告的视觉理解、长程任务及思维链效率升级,将如何落地,还有待正式发布揭晓。
目前,腾讯尚未公布具体发布日期、价格、完整评测及权重开放安排。
END
关注+星标,获取AI前沿进展与开源一线动态

