首款国产化 · 百亿级参数 · Agent MoE大模型
-
在编码Agent方面,Xing4.0-29B-A4B 在 SWE-bench Verified(75.0)、SWE-bench Multilingual(66.0)和 Terminal-Bench 2.1(57.5) 上表现突出。其中,SWE-bench Verified(75.0)接近 Qwen3.6-35B-A3B(76.0),大幅超过 Gemma4-26B-A4B(53.0);Terminal-Bench 2.1(57.5)同时超过 Qwen3.6-35B-A3B(51.5)和 Gemma4-26B-A4B(30.0)。
-
在通用Agent方面,Xing4.0-29B-A4B 在 Claw-Eval(76.55)、DeepresearchBII(60.80)和 τ³-Bench(64.63)上展现出较强表现。其中,Claw-Eval(76.55)超过 Qwen3.6-35B-A3B(74.54)和 Gemma4-26B-A4B(71.49),DeepresearchBII(60.80)也超过 Qwen3.6-35B-A3B(59.70)和 Gemma4-26B-A4B(39.30)。
-
关卡 1 · 开学季:一句话生成趣味教学网页
给出一句需求,它零代码生成可直接运行的互动教学页面——老师备课、家长辅导的“手工活”变成一句话的事。
-
关卡 2 · 选型报告:一句话拆解复杂任务
让它对比两个主流大模型的 API 成本与 Agent 能力、出一份带数据表格的选型报告,普通大模型大多只会输出笼统的文字分析,数据杂乱、无落地逻辑,需要人工二次整理。而Xing4.0-29B-A4B直接将复杂需求拆解为12步闭环可执行链路,每一步精准匹配对应工具。
-
算力上,一张显卡就够。
Xing4.0-29B-A4B 通过4-bit 量化后显存占用降低至 15GB(比 FP16 省约 75%),RTX 3090、RTX 4090 这类 24G 消费级显卡就能本地跑长上下文任务,这意味着,个人开发者、小型工作室、中小企业不用采购昂贵的 A 系列专业卡,依托现有消费级硬件就能把模型跑起来——既能完成复杂任务拆解、工具调用执行,也能保证数据安全私密、全程不出域。
-
生态兼容上,工具链也不用换。
Xing4.0-29B-A4B延续星辰大模型的开源路线,对主流开源生态做了全面兼容:支持 LLaMA-Factory、MindFormers等微调架构;适配 SGLang、vLLM、KTransformers等主流推理框架;Agent 框架对 OpenCode、Claude Code、OpenClaw、Hermes 做了定向适配调优,深度对齐各框架格式规范。 ——你熟悉的,都在。
-
架构设计:面向长程 Agent 任务进行模型架构创新,引入 MLA 多头潜变量注意力压缩 KV 缓存,MTP 多 Token 预测增强生成连贯性,mHC 流形约束超连接改善深层网络训练稳定性,并结合 Muon + QK-Clip 优化器提升训练稳定性。训练采用分阶段递进策略,序列长度从 4K 逐步扩展至 32K、128K、256K,系统性构建长程上下文能力。
-
训练 Infra:基于昇腾 910C 集群开展新一代模型架构与国产算力协同优化,实现“国芯训国模”。针对 mHC 多残差连接,基于 MindSpore/MindFormers 完成特性适配、跨框架精度对齐及融合算子开发;针对 64 路由专家、Top4 激活的细粒度 MoE,围绕专家负载均衡、Grouped GEMM、共享专家计算与 All-to-All 通信重叠进行优化,并结合 DVM 图算自动融合,降低通信长尾与碎片化算子开销;进一步采用层级 + 算子级选择性重计算,以及 Ascend C 定制 mHC 融合算子,持续提升计算与显存效率。经过模型架构、编译、算子与硬件的多层次协同,整网训练吞吐较开箱性能提升约 96%,接近翻倍。
-
多专家强化学习:依托昇腾生态完成 Slime 强化学习框架适配,面向 Agent、Coding、Reasoning 等复杂任务开展多专家强化学习训练,并通过 MOPD 技术实现多专家能力高效融合,进一步强化复杂推理、长程任务规划与工具协同能力。
-
HuggingFace:https://huggingface.co/XingChen-AGI/Xing4.0-29B-A4B
-
GitHub:https://github.com/XingChen-AGI/Xing4.0-29B-A4B
-
魔搭:https://modelscope.cn/models/XingChen-AGI/Xing4.0-29B-A4B
-
Gitee:https://gitee.com/xingchen-agi/xing4.0-29b-a4b
-
魔乐:https://modelers.cn/models/XingChen-AGI/Xing4.0-29B-A4B

