号称29G内存跑145B：模型卡实测要24G显存加31G内存，底座是阿里Qwen- 大数跨境

首页

号称29G内存跑145B：模型卡实测要24G显存加31G内存，底座是阿里Qwen

AI模型库

2026-11-14

导读：Edge0-145B发布帖说29G内存就能跑，模型卡实测是24G显存加31G内存，硬盘先腾105GB；底座是阿里Qwen3.8-Flash-Next，六项自报跑分三项略低于底座。附配置对号和上手清单。

AI模型库 · 今日一模

Edge0-145B

11 月 13 日开放权重 · 底座 Qwen3.8-Flash-Next · 每 token 激活约 10B · 256K 上下文

发布帖：29G 就能跑 · 模型卡：24G 显存 + 31G 内存

11 月 13 日凌晨，一个叫 Edge0 的团队在 X 上放出两款开源权重模型：Edge0-145B 和 Edge0-120B。发布帖写得很诱人：笔记本就能跑，只要 29G 内存；Terminal-Bench 2.1 拿到 86.5%，压过 Claude Opus 4.6 的 78.2%。这条帖子到今天早上快 60 万次浏览，1345 人点了收藏。

我把 Hugging Face 上的模型卡从头翻到尾，结论先放这里：它确实是扎实的工程活，一张 24G 显卡跑 145B，每秒能出 90 到 120 个 token；但「29G 就能跑」是发布帖的说法，模型卡自己写的实测占用是 24G 显存加 31G 内存，硬盘还得先腾出 105GB。

还有一条发布帖没放进标题的信息：它的底座是阿里的 Qwen3.8-Flash-Next，模型卡的 base_model 和致谢里都写着。

Edge0-145B 发布帖截图（@SamuelZengML，2026 年 11 月 13 日）。中文译文：推出 Edge0-145B 和 Edge0-120B，Edge0 首批端侧原生的千亿级开放权重基础模型。笔记本上的云端级智能，免费、离线、快到能真正 vibe coding。聪明：Terminal-Bench 2.1 胜过 Claude Opus 4.6（86.5% 对 78.2%）；轻：只需 29G 内存，是常规配置（100G+）的三分之一；快：在 RTX Spark 和 Mac 上解码 75+ token/秒、预填 1050+ token/秒。

PART

29G 和 54G，差在哪

THE MEMORY

发布帖说只要 29G 内存，是常规配置（100G 以上）的三分之一。模型卡给的数字更完整：在一张 24G 的 RTX 5090 D 上，Q3_K 版本权重 40.81GiB，开启驻留后占 23.14GiB 显存加 31.28GiB 内存，合计约 54GiB；NVFP4 版本是 23.25 加 38.27，约 61.5GiB。

能塞进去，靠的是稀疏。145B 参数里，每个 token 只激活约 10B：每层 512 个专家，每次挑 10 个，外加 1 个共享专家。引擎把几千个专家放在显卡上，其余从内存里现调。另有一张 512 亿参数的查表，用 fp8 存在固态硬盘上直接读，不进内存。X 用户 @tolewis 算过账：29G 是运行时最「热」的那部分，剩下的东西还得放在机器上某个地方。

硬盘也要算进去。Q3_K 仓库全部文件加起来约 105GB，其中那张查表 47.68GiB，专家文件 37.32GiB；NVFP4 仓库是 112.9GB。

模型卡还测了一档省着用的配置：同一张 5090 D，把显存压到 16GiB、内存限 20GiB，生成速度从每秒 121.2 掉到 44.9 个 token，1.6 万 token 输入的预填速度从每秒 3554.9 掉到 335。换成人话：读一段中等长度的代码上下文，等待时间从四五秒变成接近 50 秒。模型卡也特意注明，这只是测试上限，不是最低配置。

PART

86.5 赢了 Opus，却有三项没赢过底座

THE SCORES

模型卡上有一张六项对比图，全部是 Edge0 自报。Terminal-Bench 2.1：Edge0-145B 86.5，Claude Opus 4.6 78.2，它自己的底座 Qwen3.8-Flash-Next 83.3。DeepSWE 1.1：64.6，底座 58.7。编程和智能体这两项，确实比底座高出一截。

另外四项就没那么好看了：HLE 35.4（底座 35.9，Opus 4.6 40.0），GPQA-Diamond 90.4（底座 91.7），IFBench 80.6（底座 81.3），AA-LCR 79.3（底座 79.1）。六项里有三项略低于自己的底座。

Edge0 模型卡六项对比图（Edge0 自报，非第三方复测）。红色为 Edge0-145B / 120B，浅绿依次为 Qwen3.8-Flash-Next、Qwen3.8-27B、DeepSeek-V4-Flash，青色为 Claude Opus 4.6（Max）。

所以我的看法是：与其说它「超过 Opus」，不如说它把一个约 1800 亿参数的 Qwen 模型改成了能塞进消费级显卡的版本，编程项还涨了几分。这件事本身已经很有价值，用不着拿 Opus 来抬。

已经在本机跑原版 Flash-Next 的开发者 Alexey Fateev（@superalesha）发布当天就指出：11 月了，没人再拿 Opus 4.6 做对比。目前我也没看到第三方复测，这些分数先当厂商自报看。

X 帖截图（@superalesha，2026 年 11 月 13 日，节选）。中文译文：一张消费级显卡跑 145B，我翻开模型卡，是 Qwen。发布帖说 29GB 内存，模型卡自己的受限测试是 16GB 显存加 20GB 内存、每秒 45 个 token，依然很好，只是不是 29。主打跑分是 Terminal-Bench 2.1 上 86.5% 对 Claude Opus 4.6，11 月了没人还跟 Opus 4.6 比。所以：开放权重，是；开源，不是。

速度上也有出入。发布帖写在 RTX Spark 和 Mac 上解码 75+ token/秒；模型卡速度表里，RTX Spark N1X 的 NVFP4 智能体解码是 46.0，Apple M2 Ultra 是 57.0。而且模型卡写明，构建说明只针对装 CUDA 13 的 NVIDIA 显卡（Linux 或 Windows），M2 Ultra 的数字不代表 macOS 版本已经可用。

PART

谁该现在试，谁先别下

WHO SHOULD TRY

适合现在就试的：手上已经有 24G N 卡（4090、5090）、内存 64G 起步、写代码不想让代码离开本机的人。模型卡里 4090 跑 Q3_K 的智能体解码是每秒 91.7 个 token，日常 vibe coding 够用。

建议先别下的：Mac 用户（暂时没有官方 macOS 构建）、AMD 和 Intel 显卡用户、32G 内存的笔记本。@tolewis 的原话是，他不会为它去买一台 32G 的笔记本，24G N 卡配 64G 内存，才敢把它交给智能体用。

想拿它做产品的，注意许可证不是 Apache。个人使用、研究、内部使用、生成内容拿去商用都可以；卖模型、捆绑销售、做商业模型服务、做独立的商业编程或办公助手，要另签 Edge0 的书面授权，同时还要遵守 Qwen 社区许可。Fateev 一句话总结：开放权重，是；开源，不是。

这篇适合转给正打算为本地模型升级电脑的朋友，下单之前先把这笔账算清楚。

PART

照着做的清单

CHECKLIST

1. 先看显卡：NVIDIA、能装 CUDA 13，24G 显存是模型卡的基准；Mac、AMD、Intel 暂时别下。
2. 再看内存：按模型卡实测，Q3_K 开驻留约 54GiB（显存加内存），主机内存建议 64G 起。
3. 腾出约 110GB 固态，最好是 NVMe，那张 47.68GiB 的查表要从固态直读。
4. 先选 Q3_K：权重 40.81GiB，比 NVFP4 的 47.79GiB 小，在 5090 D 上还更快（121.2 对 98.3）。
5. 装运行环境：Windows 直接用 GitHub Releases 里的 Edge0 Chat 桌面版选模型文件夹；Linux 按仓库说明编译 edge0-strata 和 edge0-infer。
6. 起服务：edge0-infer serve --model 模型文件夹，会在 127.0.0.1:8000 提供 OpenAI 和 Anthropic 兼容接口，接进你现在用的编程助手。
7. 内存不够：加 --resident-budget-gib 20 并配一个静态 expert profile，代价是生成和预填都明显变慢。
8. 拿真实任务比：从自己项目里挑一个任务，同时跑它和你现在用的 API，比成功率和等待时间，再决定换不换。
9. 商用先读 LICENSE 和 NOTICE：收费编程助手、模型服务都要另谈授权。