大数跨境

Mistral开源Le Chonk:非中国开源榜首,本地2bit仍要约380GB

Mistral开源Le Chonk:非中国开源榜首,本地2bit仍要约380GB AI模型库
2026-10-30
1
导读:Mistral Large 4(Le Chonk)开放权重:1.05T/52B激活,AA称非中国开源窄幅第一;本地最小约233GB,2bit约380GB。编码智能体48分、Cyber 51、API价腰

AI模型库 · 今日一模

Mistral Large 4 · Le Chonk

Mistral · 1.05T / 52B 激活 · 1M 窗 · 权重已开放

开源≠笔记本可跑:2bit 仍要约 380GB

10月29日,Mistral 把旗舰模型 Mistral Large 4——外号 Le Chonk——的权重放到了 Hugging Face。同一天,第三方评测机构 Artificial Analysis(下称 AA)发帖:按他们的口径,这是目前「中国以外开发」的开源权重模型里,智能指数窄幅排第一的那一个。

预览版其实 10 月 6 日就上过,今天新的是两件事:权重真正可下;中间又加了大约三周强化学习,编码和防御向安全能力再抬一截,API 价也砍了约一半。

本号的判断:Le Chonk 值得进「开源候选清单」,但别把「开源」听成「笔记本就能跑」。最小的 1bit 量化也要约 233GB 磁盘/内存预算,常用 2bit 大约 378GB;开成对外卖推理的 MaaS,还得另签商业许可。先分清你是调 API、自托管,还是想当服务商。

Mistral Large 4 / Le Chonk 发布配图(出处:Hugging Face blog,10月29日)
Mistral Large 4 / Le Chonk 发布配图(出处:Hugging Face blog,10月29日)

01

PART

 

「非中国开源榜首」怎么读

LEADERBOARD

像素卡:AA 位置读法(数字来自 Artificial Analysis 10月29日)
像素卡:AA 位置读法(数字来自 Artificial Analysis 10月29日)

AA 给 high 推理档打了智能指数 v5 的 26 分,比预览版高 1 分,比美国开源权重里靠前的 Muse Spark Open(xhigh,25 分)高出 1 分。差距主要在 Terminal-Bench 4.0:25% 对 8%。

放进全球开源权重榜,它仍落后 DeepSeek V4.1 Flash 1017(max)和 GLM-5.3(max)大约 6 分。AA 写明短板主要在写代码和办公类智能体:FrontierCode 2.0 是 15%(那两家分别约 29%、22%),AA-Briefcase Elo 1349(那两家 1570、1504)。

所以「非中国开源榜首」是真的,但别读成「开源总榜第一」。更接近的说法是:欧美开源里它站到了最前排,全球开源还要跟几家中国模型掰手腕。

对做应用的人,这意味着:如果你的对标是「欧美可自托管、数据不出境」,Le Chonk 的位置变重要了;如果你的对标是「开源权重里绝对最高分」,它还不是第一名,标题里的榜首要连着「非中国」四个字一起读。

AA 智能指数原图(出处:@ArtificialAnlys,10月29日)
AA 智能指数原图(出处:@ArtificialAnlys,10月29日)

02

PART

 

编码强在哪,数字别混用

CODING

编码智能体指数上,Le Chonk 跑在 Mistral 自家的 Vibe 套件里拿 48 分,开源权重里排第二,夹在 GLM-5.3(Opencode,49)和 DeepSeek Flash 1017(Harness,46)中间。亮点是省 token:每题大约 850 万 token,大约是那两家的一半。

智能指数单题输出约 8.2 万 token,比预览版少 39%,AA 说它落在开源权重的性价比前沿上——分更高的七个开源模型,单题输出都在 11.3 万到 22.5 万之间。

Mistral 自己的博客另报:Cognition 私有 FrontierCode 2.0 上自报 19.7%、开源权重第一;Terminal-Bench 4.0 自报 41%。和 AA 的 15%、以及 AA 智能指数子集里的 25% 不是同一套跑法,转述时分开写,别混成一个数。

AA 编码智能体指数原图(出处:@ArtificialAnlys,10月29日)
AA 编码智能体指数原图(出处:@ArtificialAnlys,10月29日)

03

PART

 

安全分与幻觉率,分开看

CYBER

像素卡:编码 / Cyber / 幻觉(AA)
像素卡:编码 / Cyber / 幻觉(AA)

防御向安全是官方主推卖点。AA Cyber Index:Le Chonk(high)51 分,开源权重里排第三,前面是 DeepSeek Flash 1017(57)和 MiMo-V2.6-Pro(56)。子项上 CyberGym-E2E 大约 79%,和前两名持平或略好;DeepsecBench、CWE-Bench 仍落后。

Mistral 强调闭源大模型常因拒答,做不了「复现漏洞再打补丁」这类防守活;开源权重把部署和策略留在用户手里。它同时报:在 JailbreakBench / StrongREJECT / AgentHarm 相关恶意网络请求上,平均拒答率约 96.6%,自称开源模型里最高。

幻觉率方面,AA-Omniscience v1.1 上 Le Chonk 是 28%,比预览版的 41% 好看,但答对率仍只有 26%,明显低于 DeepSeek Flash 1017(40%)和 Muse Spark Open(42%)。省 token、少乱编,不等于知识面已经追上头部开源。

AA Cyber Index 原图(出处:@ArtificialAnlys,10月29日)
AA Cyber Index 原图(出处:@ArtificialAnlys,10月29日)

04

PART

 

规格、显存、许可、价格

FOOTPRINT

像素卡:量化内存门槛(Unsloth 公开表)
像素卡:量化内存门槛(Unsloth 公开表)

规格卡写清楚:总参约 1.05T,激活约 52B(含嵌入与输出层;有的材料写 49B,差在算不算这两块),128 专家里每次路由 4 个,再加 1 个共享专家,上下文 1M,图文进、文本出,欧洲自建机房从零训。

结构上它是稀疏注意力 + MoE:72 层解码器,隐藏维 6144;路由每次 4/128 专家 + 1 共享。视觉侧挂约 1.6B 的 Pixtral 编码器。推理侧当天就有 transformers、vLLM、llama.cpp 支持;vLLM 示例常用张量并行 8,HF Inference Endpoints 菜谱也是 8×H200 一类配置——这和「单卡消费级显卡」完全不是一档事。

官方权重两档:FP8 与 NVFP4。社区当天就有 GGUF。按 Unsloth 公开表,动态 1bit(UD-IQ1_S)约 233GB,宜放进约 256–270GB 总内存;2bit 约 310–390GB(他们的 UD-Q2_K_XL 约 378GB);4bit 大约 630GB;8bit 上到约 1.2TB。ggml-org 也写:Q2_K / IQ2_XXS 适合 512GB 统一内存的单机,再大就要多卡或分布式。

许可叫 Mistral Ecosystem Open-Weight License(MEOW):可免费用、改、微调、商用产品,但如果你对外经营「模型即服务」(MaaS),必须另向 Mistral 拿商业许可。 这不是无条件的 Apache/MIT。

API 新价:输入每百万 token 0.70 美元、输出 2.10 美元,缓存输入 0.07 美元。AA 按新价估,跑一道智能指数题约 2.06 美元,比预览版 5.54 美元少 63%。仍贵过 DeepSeek Flash 1017(约 0.60)和 MiMo-V2.6-Pro(约 0.26),和 Muse Spark Open 差不多。

05

PART

 

现在怎么选

CHECKLIST

推理档位只剩 low / medium / high,默认 high;材料写明推理关不掉,传 none 仍会按 high 走。采样官方建议温度 1.0、top_p 0.95。

若你在做应用选型,可以按下面五步过一遍:

推理关不掉,也会影响账单:简单寒暄也走推理档,low 只是相对少想,不是关闭。压成本时要在 low/medium 自己压测,别默认 high 跑完再惊讶。

像素清单:选型 5 步
像素清单:选型 5 步
  • 只需调用:先看 API 账单,用 30–50 道业务真题对一下编码智能体和拒答率,再决定换不换。
  • 要私有化:按 Unsloth/ggml 表预留内存——拿不出约 256GB+,就别把「开源」写进本周上线计划。
  • 做安全产品:优先核 AA Cyber 子项和自家漏洞集;官方拒答率是自报,上线前用自己的红队题再打一遍。
  • 想对外卖推理:先读 MEOW,确认是否触发 MaaS 条款,别上线后才发现要补签。
  • 追总分的人:全球开源仍要跟 DeepSeek / GLM 对照;Le Chonk 的长处是欧美开源定位、token 更省、部署自主。

你会先调它的 API 试编码智能体,还是等量化方案和机器到位再自托管?正在做模型选型或私有化预算的同事,可以把这篇转给他。


出处:Mistral 官方博客(10月29日);Hugging Face blog(10月29日);Artificial Analysis @ArtificialAnlys X 测评帖(10月29日);Unsloth / ggml-org GGUF 说明页。部分跑分为各方自报,已分开标注。

往期 · 接着看

Gemini 4 Carbon拿下榜首:只领先1分,幻觉率从4%涨到11%

Liquid开源1.7B小模型:调工具赢了9B,知识题只答对7%

Meta开源Muse Spark Open:816B只激活42B,两台Mac能跑?NVFP4仍要约700GB显存

AI我是「AI模型库」,每天挑一个最值得看的 AI 模型,讲清楚它能干嘛、坑在哪。

觉得有用的话,欢迎点赞、收藏、评论。

赞
在看
收藏

THANKS FOR READING

【声明】内容源于网络
0
0
AI模型库
企业AI模型训练,精选行业优秀项目,定制企业机器人助手!写新AI
内容 44
粉丝 0
AI模型库 企业AI模型训练,精选行业优秀项目,定制企业机器人助手!写新AI
总阅读729
粉丝0
内容44