
阿里巴巴旗下Qwen团队本周推出专注氛围编码的Qwen3-Coder-Next。作为800亿参数专有模型,其采用超稀疏混合专家(MoE)架构,每次前向传播仅激活30亿参数。该设计在保持轻量级本地部署低成本、高效率的同时,提供了媲美庞大专有系统的推理能力。
Qwen3-Coder-Next的架构与训练过程
Qwen3-Coder-Next采用专门设计的混合架构,克服了传统Transformer的二阶缩放问题,能在25万token窗口内保持状态且无长程推理延迟惩罚。结合超稀疏MoE,相比同等总容量的密集模型,其在仓库级任务上理论效率提升高达10倍。
该架构使智能体能阅读整个Python库或复杂JavaScript框架,并以3D模型速度响应,具备80B系统的结构理解能力。团队引入最佳拟合打包(BFP)方法,在不产生文档拼接切割错误的前提下维持效率,防止训练中的上下文幻觉。此外,不同于仅在静态代码-文本对上训练的旧模型,Qwen3-Coder-Next通过大规模“智能体训练”流程开发而成。
模型的突出特性
Qwen3-Coder-Next支持370种编程语言(此前为92种),大幅拓宽应用范围;采用XML风格工具调用及新的qwen3_coder格式,避免JSON嵌套引号和转义负担,便于生成长代码片段输出;仓库级聚焦特性将中等规模训练数据扩展至约6000亿token,可在数秒内处理26.2万token的仓库内容并在Docker容器中验证工作。开发者可选择该模型替代迭代慢或成本高的更大模型。
模型性能
基于SWE-Agent框架的基准评估显示,Qwen3-Coder-Next在活跃参数量上具显著效率优势。在SWE-Bench Verified测试中,其以70.6%得分超越DeepSeek-V3.2(70.2%),略逊于GLM-4.7(74.2%)。Qwen团队认为,强化智能体训练的扩展性比模型规模更能提升现实世界编码代理能力,Qwen3-Coder-Next正对主流闭源编码模型发起有力挑战。

