Project Maya：DeepSeek-V4.1-Flash-1017 128GB 内存也能本地部署

开源项目 Project Maya 在前两天更新了 v1.1.22，让配备 128GB 统一内存的 Ryzen AI Max PC 也能本地部署 DeepSeek-V4.1-Flash-1017。

它把模型运行、聊天界面、硬件监控和兼容 API 打包到一起。部署好以后，可以直接聊天、发图，也能接到自己的编程 Agent 上。

这条 128GB 路线使用新推出的实验性 Maya-XS 量化版：模型计算部分连同配套 drafter 占用约 120GB 内存，另有约 161GB 的 Engram 数据表放在 SSD 上。

开发者 Peasant Smith 已经在 X 上放出了更新：

老显卡也上场了

紧接着，开发者又晒出了一台更有意思的机器：三张 Tesla V100 32GB，加 DDR4 内存，跑的是 DeepSeek-V4.1-Flash-1017。

在这次运行中，上下文已经到了 68K，监控面板当时的解码读数是 71.7 token/s，本次请求的预填充读数是 446 token/s。帖子还提到，接下来会继续改善预填充。

开发者公布的 Maya 运行界面

这台三卡机器与前面的 128GB 统一内存 PC，是两种不同配置。它吸引人的地方在于，V100 和 DDR4 这样的旧硬件，也能被拿来跑新一代大模型。

Maya 的办法，是把显存、内存和 SSD 一起用起来。最常用的专家留在 GPU，其次放进内存，再往后才从 SSD 读取。机器能留住多少、运行时需要搬运多少，都会影响速度。

MoE 在这里帮了忙：这个模型每层有 384 个路由专家，每个 token 只激活其中 6 个，外加共享专家参与。Maya 不必在每一步都把整个模型搬一遍。

先给电脑腾出地方

新出的 Maya-XS，主要把路由专家压到了约 1.6 bit，384 个专家全部保留。注意力、共享专家、embedding 和输出部分则保留 Q8_0。

它还有一个更大的 Maya-S 版本。按照当前模型卡，两套文件的主要占用如下：

Engram 是模型使用的 n-gram 记忆表，运行时按需读少量行，不需要整张装进内存；模型文件最好放在 NVMe SSD 上。

压得更小也会损失精度。项目在未参与校准的文本上测试，Maya-S 与原模型选中相同下一 token 的比例为 92.6%，XS 为 87.5%。内存宽裕时可以选 S；想尝试 128GB 这条路线，XS 提供了更小的选择。

装好就能接进工具

Maya 把下载、校验和编译放进了安装入口。Linux 下，项目给出的 XS 启动方式是：

git clone https://github.com/mw00/project-maya.git
cd project-maya
./setup.sh --setup --model DeepSeek-V4.1-Flash-1017 --ds4-quant maya-xs

安装程序会先检查硬件和依赖，列出要下载的文件，再完成构建。下载中断可以继续，不用从头再拉几百 GB。

启动后，在浏览器打开本机地址 127.0.0.1:8080，就能进入聊天界面。可以发图片、修改和重新生成回答，也可以选择 Off、Low、High、Max 几个思考档位。

前面的监控界面也是自带的。模型还在思考，还是已经开始输出；上下文用了多少；显存里装了哪些东西，都可以直接看。

更实用的是把它接回已有工具。 Maya 提供 OpenAI 和 Anthropic 兼容接口，并支持流式输出、工具调用：

OpenAI 兼容地址
http://127.0.0.1:8080/v1

Anthropic 兼容地址
http://127.0.0.1:8080

Anthropic 的消息接口为 /v1/messages。

已有应用或编程 Agent 支持自定义这类模型地址，就可以按各自的配置方式连接。聊天、读项目、调用工具，背后用的是这台机器上的 DeepSeek。

速度方面，v1.1.22 也改了 DSpark 的验证过程。项目给出的结果是：在 Ryzen AI Max 上，Maya-S 配合 DSpark，相比前一版解码约快到 1.85 倍。

项目按 MIT 许可证开源，代码、硬件支持和安装说明都在这里： https://github.com/mw00/project-maya

参考链接

• Project Maya v1.1.22 发布说明：https://github.com/mw00/project-maya/releases/tag/v1.1.22
• 固定版本项目文档：https://github.com/mw00/project-maya/tree/v1.1.22
• Maya 量化模型卡：https://huggingface.co/peasantsmith/DeepSeek-V4.1-Flash-1017-Maya-GGUF
• 发布帖：https://x.com/PeasantSmith/status/2113269229654769862
• 三张 V100 运行展示：https://x.com/PeasantSmith/status/2113394326126420270