一台 2021 年的 M1 Pro 写回答比全新的 M5 Air 更快。为从 8GB 到 512GB 的每一款 Mac 选择最佳模型，另有语音、embeddings 和图像模型推荐。
10 月 15 日，Meta 发布了 Muse Spark Open，这是它最大的开放模型，并表示它是为在 Mac 上运行而构建的。Meta 自己的配置使用了两台 Mac Studio，每台都有 512GB 内存，搭载的是 Apple 顶级芯片的某个尚未发售版本。
但人们搜索的 Mac 要小得多，比如 16GB MacBook Air 或 24GB Mac mini。它们也能运行不错的模型，但具体哪个合适，取决于 Mac，而且方式并不直观。一台 2021 年的 M1 Pro 写回答比全新的 M5 Air 更快。而在 24GB Mac 上，同一个 Qwen 模型的标准下载版本每秒写 9 个 token，换成一个稍小的版本则能达到 50 个。
聊天只是其中一部分。Speech to text、朗读文本、搜索你自己的文件以及生成图像，每项任务也都有适合 Mac 的最佳模型。
那么，你应该在手头这台 Mac 上运行什么，又有哪些值得再加上去？
你的 Mac 擅长什么
Mac 上的模型会做两件事：先读取你的整个 prompt，然后一次一个 token 地写出答案。Apple 对芯片中负责这两项工作的部分，以非常不同的速度进行了改进。
写入速度取决于芯片从内存中搬运数据的速度，而 Apple 对这一点的划分更多是按芯片档位，而不是按年份。2021 年的 Pro 或 Max 芯片搬运的数据量，比今年的基础款芯片更多。这就是为什么 M1 Pro 写得比 M5 更快，也解释了为什么二手 M1 Max 能跟 M4 Pro 保持同一水平。
读取则是新芯片领先的地方。M5 和 M6 在 GPU 中内置了 neural accelerators，这让基础款 M5 读取 prompt 的速度快过 2023 年的 M2 Ultra。这在长 prompt 上最重要。一个 32,000-token 的 prompt 在 M1 上大约需要 8 分钟读取，而在 M6 上大约半分钟。
Qwen3.5–9B 的 4-bit 版本是 16GB Mac 的常见选择，它在各芯片上的表现展示了这种规律：
低于大约每秒 10 个 token 时，你会在每句话上等待；而下面这些推荐，在它们对应的芯片上都不会低于这个速度。
在笔记本上，先检查电池设置。Low Power Mode 会让 M1 Max 上的 Gemma 4 31B 从每秒 17 个 token 降到 8 个。
适合你内存的最佳模型
内存决定哪些模型能加载。文件必须能放进 macOS 分配给 GPU 的那部分内存中，还要给对话留出空间。在 macOS 26 上，16GB Mac 会给 GPU 大约四分之三的内存，更大的 Mac 会略多一些。还没有人发布 macOS 27 的数字，所以可以在 LM Studio 的日志里查找 recommendedMaxWorkingSetSize 这一行来看你自己的情况。基于 Apple MLX framework 构建的 app 可以超过这个份额，而通过 llama.cpp 运行 GGUF 文件的 app 会保持在它以下。
模型名称中的 bit 数字表示每个 weight 被压缩到什么程度。4-bit 是通常的平衡点。8-bit 更接近原始模型，但大小翻倍；3-bit 或 2-bit 可以把更大的模型塞进更少内存，代价是质量下降，而这种下降很少被测量。
模型的构建方式比它有多大更重要。有些模型每个 token 都使用所有 weight。Mixture-of-experts 模型每次只使用一小部分，名称通常会说明用多少：Qwen3.6–35B-A3B 有 350 亿个 weight，但每个 token 只使用大约 30 亿个。在 32GB M5 上，它每秒写 55 个 token，而更小的 Qwen3.8–27B 使用全部 270 亿个 weight，只能达到 8 个。
除非表格另有说明，否则全部为 4-bit。
8GB。 Gemma 4 E2B 在 8GB M1 上每秒大约写 35 个 token，所以这些 Mac 仍然可以聊天。在 Ollama 中，拉取 gemma4:e2b-it-qat，大小为 4.3GB。普通的 gemma4:e2b 标签会在 Mac 上下载一个 7.5GB 的 MLX 版本，对 8GB 来说太大；更大的 E4B 也有同样问题，因为它的图像和音频部分让这个“4B”变成了 5GB 文件。
16GB。 Gemma 4 12B 是这里更强的聊天模型，但在 M1、M2 或 M3 基础款芯片上，它每秒写 8 到 11 个 token，而 E4B 在这些机器上是更好的日常模型。对于 coding，Ornith-1.5–9B 是这个尺寸中最新的模型，是 8 月发布的 MIT-licensed 版本。到目前为止只有它的制作者测试过它，这使得 Qwen3.5–9B 成为更稳妥的替代选择。gpt-oss-20b 可以在 16GB Mac 上加载，但不给对话留下空间，而且没有小号的 Qwen 3.8。在 MacBook Air 上，持续使用几分钟后速度会下降约四分之一，然后保持稳定；而且 Air 在电池供电时比插电时稍快。
24GB 这里最关键的是你选的文件。标准 4-bit build 的 Qwen3.6–35B-A3B 大约 20GB，而这正是会在 24GB Mac 上变得很慢的下载版本，因为 macOS 开始把内存 swap 到 SSD。3/4-bit 混合版本小到足以避免这一点，Unsloth 的 3-bit MLX build 是 17GB。NVIDIA 新的 Nemotron 3.5 Bolt 标为“24GB”，但那是文件大小，它并不能放进一台 24GB Mac。
32 到 96GB。Qwen3.8–27B 在独立测试中的分数高于任何 150B 以下的开放模型，包括 gpt-oss-120b。它每个 token 都使用所有 weight，所以在基础款或 Pro 芯片上，它需要 MTP，即模型先提前草拟几个 token，再在一次 pass 中检查它们。这大致会把它的写入速度翻倍。它默认还会进行长时间思考，在一台 M4 Pro 上，一个 prompt 让它思考了 17 分钟，所以对于不难的任务，要在你的 app 设置中降低它的 reasoning effort。对于快速的日常回答，35B-A3B 更快。8-bit 的 27B 只有在 Max 或 Ultra 芯片上才有可用速度。
128GB 及以上。Qwen3.8-Flash-Next 是一个 mixture-of-experts 模型，每个 token 使用大约 60 亿个 weight，4-bit 版本可以放进 128GB。再往上，GLM-5.3-Flash 以及完整的 GLM-5.3 是单台 Mac 能容纳的最强开放模型。Muse Spark Open 以 3-bit 可以放进一台 512GB Mac，但 GLM-5.3 在独立测试中分数更高，并且能以 4-bit 放下。Muse Spark Open 能读取图像，而 GLM-5.3 不能；如果你需要 vision，这使得 Muse Spark Open 成为这个尺寸下的选择。
用哪个 app 运行它们
你可以在 Ollama 或 LM Studio 中运行所有这些模型，而不用选择底层引擎。自 9 月下旬以来，只要你从 Ollama 自己的 library 拉取，Ollama 就会在每台 Apple Silicon Mac 上默认用 MLX 运行 Qwen 3.8、Qwen 3.6、Qwen 3.5 和 Gemma 4。你以 GGUF 文件形式导入的模型则在 llama.cpp 上运行。LM Studio 同时提供两者，你通过选择模型的 MLX 或 GGUF 版本来决定。
在 M5 或 M6 上，选择 MLX。它会使用 neural accelerators，而 LM Studio 的 llama.cpp 引擎有一个 6 月份的公开 bug report，关于这些加速器被保持关闭的问题。在 M1 到 M4 上，没有哪个引擎能全面胜出。
对于 27B，还有两个较小的 MLX app 值得了解。MTPLX 是围绕 MTP 构建的引擎，oMLX 是内置 MTP 的 server app。Ollama 也支持 MTP，但在你于模型设置中设置 draft_num_predict 之前默认关闭。
oMLX 还可以帮助处理长 agent session。它会把模型已经读取过的对话部分保存到你的 SSD，这样 coding agent 就不必每轮都等待重新读取完整历史。这个 cache 默认最多可以增长到你空闲磁盘空间的一半，所以要设置限制。
你已经拥有的模型
还有一个模型你不需要下载。每台带 Apple Intelligence 的 Mac 都有 Apple 自己的模型，也就是 Writing Tools 等功能背后的模型；在 macOS 27 上，你可以从 Terminal 或你自己的 app 中使用它。
你得到哪个版本取决于你的 Mac。在 M3 或更新且至少 12GB 内存的 Mac 上，它是一个 200 亿 weight 的 mixture-of-experts 模型，每次请求使用 10 到 40 亿个 weight。M1 和 M2 Mac，以及每台 8GB Mac，会得到一个较小的 30 亿 weight 模型。
macOS 27 包含了一个用于它的命令：fm chat 开始一段对话，fm respond 回答单个 prompt。apfel 是一个免费的 open-source 工具，它通过 OpenAI-style API 提供同一个模型，让为 Ollama 构建的 app 也能使用它。它会占用 Ollama 的默认端口，所以如果你同时运行两者，需要改掉其中一个。
限制在于它能接收多少内容：大版本为 8,192 个 token，小版本为其一半，对于长聊天或 coding agent 来说太少。Apple 也没有把它和开放模型做过比较。它适合短任务，比如总结一个页面，或从 email 中提取姓名和日期；对于这些任务，它免费且已经安装好了。
语音
Apple 的新模型也为 macOS 27 中的 dictation 提供支持，但只限于同样的 M3 或更新、且内存 12GB 以上的 Mac。在 M1、M2 或任何 8GB Mac 上，更好的 dictation 来自开放模型。
对于英语或 25 种欧洲语言之一，那就是 Parakeet v3，或 Parakeet Ultra，这是 9 月重新训练的版本，在相同大小下错误更少。VoiceInk 在 Neural Engine 上运行它，也就是芯片中为这类工作而构建的部分；在那里它占用大约半 GB，并让 GPU 空出来给聊天模型使用。
Whisper large-v3-turbo 现在在 Hugging Face 的英语语音识别 leaderboard 上接近开放模型的底部。它适合用于 Parakeet 不覆盖的语言，因为它支持 99 种语言，而且即使在基础款 M1 上，也能以实时速度的 12 倍进行转录。
对于准确率比速度更重要的长录音，Qwen3-ASR-1.7B 是该 leaderboard 上最准确的开放模型，分数领先 OpenAI 的付费转录服务。它在 8-bit 下大约 2.5GB，覆盖 30 种语言。不过它比 Parakeet 慢，虽然还没人发布过它在 Mac 上的速度。
对于朗读文本，Kokoro 是首选。它在 2024 年末发布，只有 8200 万个 weight，并且是对应 text-to-speech leaderboard 上最清晰易懂的开放语音。使用 MLX 时，它在 M4 Pro 上的语速约为实时的 24 倍。它不能复制某个声音。Qwen3-TTS 可以，而且可免费商用。OmniVoice 克隆得同样清晰，但它的许可证不允许商用。
Kokoro 和 Qwen3-TTS 都通过 mlx-audio 运行，这是一个 Python package，也覆盖 Parakeet 和 Qwen3-ASR。要用语音和模型对话，Hugging Face 的 speech-to-speech 项目把 Parakeet、Qwen3.5–4B 和 Qwen3-TTS 串成一个本地语音助手，它需要一台 16GB Mac。
Embeddings
Embedding 模型足够小，所以内存不是问题。这里的每个选择都能在 16GB Mac 上与聊天模型并行放下。大小影响的是首次索引需要多久：在基础款 M2 上，10,000 条笔记使用 Microsoft 的 harrier-oss-v1–270m 大约需要 20 分钟，而使用 6 亿 weight 的模型则超过一小时。
最容易设置的是 EmbeddingGemma 2,，Google 在 9 月发布了它。ollama pull embeddinggemma-2:270m 会拉取大约 300MB 的纯文本版本，它一次可读取文档中最多 8,192 个 token。同一模型的更大标签还能索引图像和音频，因此照片和语音笔记可以共享一次搜索。它的索引速度远不到 harrier-270m 的一半，而在纯文本上，它的分数与第一代 EmbeddingGemma 大致相同。它的提升在于代码和新的输入类型。
对于小尺寸下最准确的文本搜索，harrier-oss-v1–0.6b 于 3 月发布，采用 MIT-licensed，在 multilingual leaderboard 上能以七分之一的大小匹配 Qwen 的 40 亿 weight embedding 模型。它不在 Ollama 的 library 中，所以你需要通过 sentence-transformers Python library 或 llama.cpp 中的 GGUF 文件运行它。对于代码搜索，Qwen3-Embedding-4B 接近代码 leaderboard 的顶部。
在建立索引之前检查 precision。EmbeddingGemma 2 和 harrier-270m 都基于 Gemma 构建，在 fp16 下会返回损坏的 vectors 且不报错，所以要用 bf16 或 full precision 运行它们。
图像
图像模型的工作方式不同。生成图像更偏重重计算，而不是内存竞速，所以芯片代际比芯片档位更重要。基础款 M6 Mac mini 生成图像比 M4 Pro Mac mini 更快，这与它们在写文本时的对比正好相反。
从 Draw Things 开始。它免费，几乎能运行当前所有开放图像模型，并且在它 10 月的对比中，在几乎所有被测试的 Mac 上都击败了替代方案，包括脚本工具 mflux。在 M1 和 M2 Mac 上，mflux 使用 — compute-precision float16 选项会明显更快。
在 16GB 上，使用 Z-Image Turbo 或 FLUX.2 klein 4B。两者都是 Apache-licensed，4-bit 下都能轻松放下并留有余量。
从 24GB 起，你可以运行最新的 FLUX 3 Image Klein，它由 Black Forest Labs 于 10 月 15 日发布。即使在 4-bit 下，它也需要大约 18.5GB，这把 16GB Mac 排除在外；进一步压缩它可以节省内存，但不会让它更快。在 M4 Pro 上，它每张图接近两分钟。目前它可以在 mflux 的 development version 和 ComfyUI 中运行，不能在 Draw Things 中运行。
Qwen-Image-2.1 Turbo 是这个尺寸下更快的选择。Draw Things 用它在 24GB M4 Pro 上生成一张 1024 像素图像大约需要 45 秒，在 32GB M6 mini 上需要 42 秒。早期 Qwen-Image 版本可免费用于任何用途，但 2.1 仅授权非商业使用。
结语
这些选择会在几个月内变化，所以真正值得保留的是如何判断下一个模型。对于文本模型，把文件大小与你的 GPU 能获得的内存比较，并查看它每个 token 使用多少 weight。对于图像模型，你的芯片代际比其他任何因素都更重要。
另外，在责怪你的 Mac 之前先更新你的 app：同一台 M2 Ultra 运行同一个 70 亿 weight 测试模型，如今仅靠软件更新就比 2023 年快了大约30%。