纯血国产！4B模型越级打怪，杀入万亿赛道

新智元报道

近期，一台彻底断网的普通笔记本，凭借仅有 4B 参数的端侧小模型，成功完成了以往需依赖大模型才能处理的任务。

9 月 1 日，Hugging Face 上线了科大讯飞全资子公司「词元星火」推出的两个开源端侧模型：星火 X2.5-4B和1.7B。这两款模型在多项基准测试中表现卓越，实现了“越级打怪”。

• τ³-bench（多轮工具调用）：得分 30.4。在几十步连续操作中保持高准确率，展现极限定力。
• MCP-Atlas（MCP 协议测试）：得分 54.6。在真实 API 环境中参数填充严丝合缝，零报错。
• BrowseComp（自主上网搜索）：得分 40.9。能有效剔除网页弹窗与垃圾代码，精准提取有效数据。
• IFBench（指令遵循）：得分 75.0。面对超长字数及复杂嵌套格式的指令，执行丝毫不差。

在智能体（Agent）、工具调用及真实任务完成率等核心指标上，该模型表现优异。其中 1.7B 版本在 MCP-Atlas 测试中也拿下同尺寸模型最高分 23.4。

实测显示，将模型部署于本地环境后，其代码生成能力出色。例如生成霓虹烟花 HTML 页面时，代码输出流畅，渲染效果惊艳，粒子动态与色彩切换自然。

值得一提的是，这两款模型基于全国产算力平台完成训练，并打通了英伟达、华为、海光及后摩等主流硬件平台的部署。

端侧 AI：跨越「好用」门槛

过去两年，大模型发展多集中于云端，面临联网依赖与数据隐私问题。而在内网办公、工厂终端等无网场景中，现有解决方案往往陷入两难：要么部署巨型模型导致硬件负载过高，要么使用小模型仅能进行简单对话，无法执行复杂任务。

星火 X2.5 系列旨在解决这一痛点，实现从“动嘴”到“动手”的跨越。其核心优势在于极致的轻量化：

• 4B 模型：BF16 精度下权重仅占 8GB 多，4bit 量化后体积减半，可轻松部署于笔记本、工作站甚至老旧业务系统。
• 1.7B 模型：专攻汽车座舱、智能家居等场景，普通手机即可运行。

实测：断网生啃两份八千字合同

在断网环境下，将该模型接入 Codex 并让其审阅两份八千余字的商业合同，结果令人瞩目。模型精准识别出多处人工难以察觉的风险点：

• 措辞微调：发现“应当”被改为“可以”，识别出强制义务变为任意条款的陷阱。
• 条款缺失：通过逻辑递进关系，揪出 B 版合同中整段消失的“知识产权”归属条款。
• 全局比对：关联相隔数行的违约金条款，发现甲乙双方比例不对等的改动。

模型不仅列出了原文对比、风险影响及等级，还提供了应对建议，报告格式规范，可直接交付法务使用。

在数据处理方面，模型能自主编写并执行 Python 代码，对原始表格进行分析。它精准抓取了单笔超限额、字段缺失、拆单嫌疑、日期格式混乱等异常数据，并生成可直接使用的分析报告。全过程无需人工干预，且数据完全留存于本地，满足金融、审计等敏感岗位的合规需求。

技术解析：它是如何做到的？

为在有限参数下爆发强大智能体能力，研发团队采用了两项核心技术：

1. 混合注意力机制：极致优化显存
星火 X2.5 原生支持 100 万 Token 上下文。其架构将注意力层一分为二：一层负责宏观全文联系，另一层聚焦局部细节。这种设计在保证长文本理解能力的同时，将显存占用降至传统全局注意力模型的四分之一，有效解决了端侧模型“记性差”的难题。

2. 多教师在线策略蒸馏（MOPD）：传授解题思路
区别于传统蒸馏仅传授答案，MOPD 采用“在线策略”教学。团队先训练出一批垂直领域的“单科专家”大模型作为教师，在小模型尝试解题过程中，教师全程督导并纠正其读需求、选工具、填参数及查错的路径。这种方式将“解决问题的方法论”而非死板知识传递给小模型，使其具备更强的泛化与执行能力。

千万台国产设备等待适配

AI 大规模落地的关键在于能否在真实行业设备中顺畅运行。随着国资委 79 号文推进，2027 年前央企国企需完成信息化系统的全栈信创替代，涉及千万台量级的 PC 替换需求。同时，《网络数据安全风险评估办法》的实施，使得数据不出域成为合规红线。

星火 X2.5 恰好填补了这一市场缺口：

• 算力自主：国产算力训练，国产硬件运行。
• 兼容性强：支持 vLLM、SGLang、llama.cpp 等框架，兼容 Ollama 和 LM Studio。
• 极致开源：权重采用 Apache-2.0 协议，免费商用且微调后无需开源。

目前，模型权重、代码及部署文档已在 Hugging Face、ModelScope 和 GitHub 全面开放，API 同步上线 MaaS 平台。

对于车机、音箱、产线机器人等网络受限、算力有限的设备而言，它们需要的不是全能型天才，而是能读懂手册、理顺表格、精准执行指令的实用引擎。星火 X2.5 的出现，标志着行业关注点正从“模型有多聪明”转向“模型能适配多少设备”。

此外，科大讯飞将于 9 月 7 日正式发布全新一代旗舰通用大模型——星火 X2.5，其代码与智能体核心能力将迎来进一步进化。

编辑：所罗门 摩西