这两天,法国 Mistral AI 放出了 Mistral Large 4 的权重。这个昵称叫 Le Chonk 的旗舰模型,本月初刚开放预览,经过三周追加训练,又把编程能力和推理效率往前推了一步。
Unsloth 紧接着给它做了 1-bit GGUF 量化,最小一档约 233GB,把原本 TB 级的模型压到了高内存 Mac Studio 也能尝试的规模。
Large 4 总参数约 1 万亿,每个 token 激活约 520 亿参数,支持文本和图片输入,拥有 100 万 token 上下文。它在 Mistral 自有的欧洲数据中心里,从零开始用 3,800 张 NVIDIA Grace Blackwell GPU 训练。
西方最强开源模型
Large 4 这轮提升最值得看的一点,是用更少的 token 完成编码任务。
Artificial Analysis 的 Coding Agent Index 中,Large 4 搭配 Mistral Vibe 得到 48 分,GLM-5.3 搭配 OpenCode 为 49 分,DeepSeek V4.1 Flash 1017 搭配 DeepSeek Harness 为 46 分。
差距不大的成绩背后,Large 4 每项任务平均消耗约 850 万 token,另外两套分别约为 1,590 万和 1,670 万。这里比较的是各自配套 Agent 的表现,Large 4 用量接近减半。
Mistral 模型卡列出的 Coding Agent Index 成绩
如果看更广的综合能力,结论就没那么夸张。AA 的新版 Intelligence Index v5 给 Large 4 打了 26 分,比预览版高 1 分,也比 Muse Spark Open 高 1 分;领先的中国开放权重模型仍在它前面。
Artificial Analysis 对新版权重的评测
安全团队可以把模型留下来
另一条主线是网络安全。
Large 4 在 AA Cyber Index 上得到 51 分。这项评测关心的是模型能否发现、复现漏洞,再完成修补。AA 将它列在开放权重模型第三位,前面是 DeepSeek V4.1 Flash 1017 和 MiMo-V2.6-Pro。
Mistral 放出的漏洞分诊演示里,Agent 会读取漏洞报告、查源代码和产品背景,在隔离沙箱里复现问题,然后迭代补丁,直到用于验证漏洞的测试攻击不再奏效。
Cloudflare、CrowdStrike、Booz Allen 等公司参与了相关评估。Booz Allen 特别提到,Large 4 在其内部源代码安全分析基准上,漏洞检出召回率可以匹敌其他前沿模型,同时具备有吸引力的成本。
对这类团队来说,开放权重的价值很具体:代码和安全数据留在自己的环境里,模型也能按内部任务继续调整。
万亿模型装进 233GB
Unsloth 把这次权重发布接到了本地部署上。
它推出的最小量化档叫 UD-IQ1_S。Hugging Face 上六个 GGUF 分片加起来约 233.01GB,相较约 1.1TB 的 FP8 版本,文件体积缩小了约八成。
Unsloth 发布本地量化版本
但下载得下和运行得动,还隔着内存。Unsloth 给出的 1-bit 档内存需求约为 256—270GB,它举出的设备包括高内存 Mac Studio、两台 DGX Spark。
这是工作站级的门槛。上下文拉长后,KV 缓存还会继续吃内存。
Unsloth 同时给出了不同量化档的质量与体积曲线:最小 1-bit 档在其测试中约有 91% 的 top-1 一致率,约 378GB 的动态 2-bit 档提高到约 96%。
Unsloth 的量化质量与文件大小对比
现成入口也已经配好:GGUF 可以通过 Unsloth Desktop 或其推荐的 llama.cpp 版本运行;要处理图片,还需加载配套的视觉投影文件。更高精度的部署则有 Mistral 提供的 FP8、NVFP4 权重,以及 vLLM、SGLang 支持。
API 也降价了
不打算准备几百 GB 内存,也可以直接试 API。Large 4 的新价格约为此前标准价的一半,以下均为每百万 token 的美元价格:
|
|
|
|---|---|
|
|
|
|
|
|
|
|
|
推理强度可以选 low、medium、high,默认 high。
权重采用 Mistral Ecosystem Open-Weight License。可以使用、修改、微调和商用;经营 Model-as-a-Service 服务的企业,需要另取 Mistral 的商业许可。
参考链接
-
Mistral Large 4 权重发布介绍:https://mistral.ai/news/mistral-large-4-oss/ -
Mistral 发布帖:https://x.com/MistralAI/status/2115811242556137820 -
Artificial Analysis 评测:https://x.com/ArtificialAnlys/status/2115820547103952925 -
Mistral Large 4 模型卡与权重:https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B -
Unsloth 发布帖:https://x.com/UnslothAI/status/2115812784189620265 -
Unsloth GGUF 下载:https://huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF -
Unsloth 本地运行指南:https://unsloth.ai/docs/models/mistral-large-4 -
ML4 Demo Hub:https://huggingface.co/spaces/mistralai/ml4-hub

