大数跨境

macOS 27 自带的 system 模型,到底是什么水平?

macOS 27 自带的 system 模型,到底是什么水平? 运维开发与AI实战
2026-10-19
3
导读:从 Apple 官方评测、第三方基准和本机 fm 命令出发,解释 system 模型的能力、性能边界,以及能否下载更多模型。

在 macOS 27 的终端输入 fm,会看到一个很直接的入口:system,默认使用设备上的 Apple Foundation Model。

它能聊天、读图、输出结构化数据,还能启动 Chat Completions API 服务。看到这里,很容易接着问:Mac 已经自带一个能替代主流大模型的本地助手了吗?能不能再下载几个模型,按需切换?

我查了 Apple 的模型报告、WWDC26 开发者资料,以及第三方公开测试,也检查了当前 Mac 上的命令帮助。先说结论:Apple 确实公布过基准测试,社区也有可复查的测试记录;但目前查到的证据,不能把你机器上的 system 排进一个可靠的“当代大模型总榜”。fm 当前也没有下载任意模型的功能。

问题的关键,是区分模型家族、系统接口和具体版本。本文资料核查截至 2026 年 10 月 19 日;本机检查环境为 macOS 27.0.1,build 26A434。

system 是系统入口,不是完整的模型身份证

Apple Foundation Models 是一组模型的名称。system 则是 fm 暴露的设备端模型选项。这个名字本身没有告诉我们权重版本、量化配置或完整架构。

Apple 在 2026 年 6 月介绍了第三代模型家族。其中,AFM 3 Core 是 30 亿参数的设备端稠密模型;AFM 3 Core Advanced 是总计 200 亿参数、按请求激活约 10 亿至 40 亿参数的设备端稀疏模型,面向更有能力的 Apple 芯片。家族还包括运行在 Private Cloud Compute 上的云端模型。

这不意味着终端里的 system 就一定是那个 200 亿参数模型,更不意味着 fm 可以调用整组模型的全部功能。在缺少可核实的运行时映射信息时,我不会直接把 system 写成 AFM 3 Core Advanced。

注意下图绿色的本机边界:fm → system 是当前确认的路径。右侧云端属于另一条执行路径,不能因为框架支持,就认定当前 CLI 也支持。

system 位于本机执行路径,框架的其他模型入口不能自动视为 fm 的可选项

Apple 的 Foundation Models 框架还支持通过适配接口接入其他提供商。这里至少有三个层次:Apple 拥有哪些模型、框架能接入哪些模型、这台 Mac 的 fm 实际开放哪些选项。把三者混在一起,最容易高估终端里这个入口。

Apple 自己有评测,而且要分年份读

2025 年技术报告:能判断上一代的小模型水平

Apple 的《Apple Intelligence Foundation Language Models: Tech Report 2025》公开了 MMLU、MMMLU 和 MGSM 成绩。它们分别侧重多学科知识、多语言知识和多语言数学题;都不能单独代表完整的助手体验。

报告中,2025 年设备端 AFM 的 MMLU 为 67.85,Qwen-2.5-3B 为 66.37,Qwen-3-4B 为 75.10。MGSM 上,对应成绩分别为 74.91、64.80、82.97。这里比较的是报告指定的 instruct、非 thinking 设置。

这些结果支持一个有限但有用的判断:上一代设备端 AFM 在当时的数十亿参数模型中有竞争力,但并没有全面超过同级开源模型。 例如,Qwen-3-4B 在这些公开知识与数学测试上领先。

还有一个容易忽略的细节:报告另列的压缩优化对比中,设备端模型的 MMLU 从约 67.8 降至 64.4。论文里某个模型配置的成绩,不能原样当作每台 Mac 实际部署版本的成绩。

2026 年第三代评测:主要证明代际改进

Apple 的第三代模型介绍也有评估结果。对一般文本能力进行人工成对比较时,AFM 3 Core 获得偏好的比例为 45.6%,2025 年基线为 23.3%,剩余为平局。

这表示在该评测集上,评审更常选择新模型的回答。它不表示正确率是 45.6%,也不表示模型能力提升了 45.6%。

更关键的是,这组数字比较的是 Apple 自己的两代模型。它能支持“新一代变好了”,不能直接支持“已经追平当前的 GPT、Claude 或 Gemini 旗舰模型”。 本次检索没有找到足以给当前 system 建立这种同条件横向排名的完整证据。

因此,网上出现“Apple 模型相当于某某旗舰”的说法时,至少要继续问:哪一代?设备端还是云端?什么任务?压缩前还是部署后?这些条件不齐,排名就很容易失真。

第三方测过什么?有数据,但不要扩大解释

我找到一个独立开源项目 FoundationModelsBench。它不只看生成速度,还分别记录任务通过情况、首段输出延迟、生成吞吐、失败和环境信息。

项目公开的一组历史基线来自 2026 年 6 月 12 日:MacBook Pro,Apple M5,32GB 内存,macOS 27.0 beta,build 26A5353q,正常温度状态,关闭低电量模式。

这组记录包括:

  • Practical Quick:25 次测量全部通过提示任务,未记录失败。

  • Synthetic Performance:5 次测量,首段输出时间中位数 0.413 秒,解码吞吐中位数 55.35 token/秒。

  • 一次 PCC 尝试:首段输出前就不可用,不能算作成功的云端性能测试。

其中,“25 次通过”不能读成“通用能力正确率 100%”。这是特定测试集及其判定规则的结果。项目还提醒,这组记录早于测试集扩展,不能直接与后来更大的题库比较通过数量。

55.35 token/秒也只是这台机器、这些输入和计时口径下的结果。它的解码统计排除了首个累计流式输出中已包含的 token。换芯片、换输入长度或换统计方式,数字就可能变化。

这份测试的实际价值,是说明设备端模型已经可以在具体机器上提供较快的交互,并给出可复查的测量方法。它没有回答“中文长文、复杂代码、数学推理分别比主流模型差多少”。

相比主流模型,应该给它怎样的预期?

我会把它作为本地任务组件来评估:输入材料明确,处理范围有限,结果容易检查。比如把一小段会议记录整理成要点,从订单描述中提取字段,或者按固定标签分类文本。

这是基于部署方式和已有证据的选型建议,不是一个新造的能力排行榜。2025 年报告提供的是历史上的小模型对比,2026 年官方介绍提供的是代际改进,社区样本则提供具体机器上的任务与速度记录。三者还不足以拼成当前旗舰模型的完整横评。

面对跨文件代码修改、困难数学题、长时间多步规划,或者需要大量外部知识的问答,我不会仅凭“系统自带”就把任务交给它。更合理的做法,是拿实际任务与准备采用的云端或本地模型对照测试。

这里还有一个区别:fm chat 给你聊天界面,但模型没有因此自动获得联网搜索、仓库访问或应用操作权限。回答得流畅,也不代表回答已核实。

中文能力也需要单独验收。多语言综合成绩不能说明它是否能稳定保留中文专有名词、金额、日期和语气。若任务是中文内容处理,测试集就应该以真实中文样本为主。

当前 fm 到底能做什么?

这次我在本机运行了 fm available,结果为 System model available。同时检查了 respond、serve 和 schema object 的帮助。以下命令作为使用示例提供;没有把这些示例的输出当作质量实测。

文本生成和多轮对话。respond 适合单次调用,也能从标准输入读取内容;chat 提供交互界面。指令可以单独传入,输出支持流式生成。

fm respond --instructions '用中文回答,保留原文数字。' \
  '把下面的记录整理成三条要点:……'

cat notes.txt | fm respond --instructions '提取待办事项,不补充原文没有的内容。'

结构化输出。schema 用于定义输出结构,再交给 respond --schema 使用。例如:

fm schema object --name Task --string title --boolean urgent > task-schema.json
fm respond --schema task-schema.json \
  '提取任务:明天下午提交报销材料,标记为紧急。'

结构化生成能约束字段和类型,但不能保证字段内容一定正确。输出是合法 JSON,与提取的日期、金额是否准确,是两个问题。

图片输入和工具辅助。 本机 respond --help 列出 --image、--text,以及内置的 ocr 和 barcode 工具。读图理解、OCR 和条码识别可以配合使用,但它们各自承担不同工作。

fm respond --image receipt.jpg --tool ocr \
  --text '提取商户、日期和总金额;无法确认的内容明确说明。'

这个入口用于理解图片;当前帮助没有提供生成图片、语音合成或转录的对应命令。Apple 模型家族中的这些能力,不能自动算作当前 fm system 的功能。

本地 API 服务。fm serve 提供 /health、/v1/models 和 /v1/chat/completions,支持流式与非流式 Chat Completions。

fm serve --host 127.0.0.1 --port 1976

它适合让已有脚本通过 HTTP 调用本机模型。接口形式相似,不意味着其他服务的所有参数和端点都能直接迁移,接入时仍要检查兼容范围。

此外,count-tokens 可以计算输入的 token 数,--resume 和 --save-transcript 可以继续和保存对话。上下文容量应以具体设备和运行时接口为准,不宜把旧版本的固定数字套给所有 macOS 27 设备。

能不能通过 fm 下载更多模型?

就本机当前版本而言,不能像模型管理器那样,通过 fm 下载 Qwen、Gemma 或其他任意权重。

顶层命令没有 pull、download、install 或导入权重的选项。respond --help 中的 --model 只列出 system;serve --help 也只列出这一个模型。这些是当前机器的直接观察。

这里要区分三件事:

  • 系统准备或更新 Apple Intelligence 模型资产,由系统管理。

  • 开发者通过 Foundation Models 框架接入其他模型,需要对应实现及运行条件。

  • 在 Mac 上自行运行开放权重模型,需要支持这些权重的运行工具。

后两者都不能推导出 fm 已经拥有模型下载功能。想在同一台 Mac 上运行多个开放模型是另一项部署任务,要考虑可用内存、量化格式、上下文长度和运行时支持。

还有一处版本差异值得单独说明:WWDC26 的官方演示展示过 fm 切换到 PCC,以及通过 --model 使用云端模型。可是,当前本机帮助仅显示 system,与你看到的菜单一致。

因此,我不会建议直接照搬演示里的 PCC 用法,也不会由此断言 Apple 的整个框架取消了 PCC。判断自己能用哪些选项,先看当前机器的帮助;看框架能做到什么,再查对应 API 和接入要求。 云端模型也不是下载到本地后离线运行。

我会怎样判断它是否值得用?

先选一项准备投入使用的小任务,整理 50~100 条有预期结果的样本。这个数量只是起步建议,用于发现明显问题,不能替代完整评估。

例如做中文信息提取,就同时放入普通文本、缺字段文本、含多个金额的文本,以及容易混淆日期的文本。要求模型在信息缺失时明确返回缺失,检查它是否擅自补全。

然后让 system 和候选模型处理相同输入,分别记录:

  • 任务是否正确完成,关键事实是否保留。

  • 输出格式是否符合要求,是否拒答、超时或超出上下文。

  • 从请求到可用结果的时间,以及长时间运行后的变化。

不要只挑一个回答漂亮的例子,也不要把一次模型回复当成基准测试。速度快但经常提取错金额,和速度略慢但稳定正确,代表完全不同的产品选择。

对于我的使用预期,fm 最值得尝试的地方,是把本地语言处理接进已有脚本:材料留在本机、无需为每次设备端调用支付云 API 费用,也省掉单独部署权重的步骤。至于复杂任务是否能替代现有模型,答案应该来自同条件的实际任务测试。

【声明】内容源于网络
0
0
运维开发与AI实战
DevSecOps工程师,分享AI, Web3, Claude code开发的经验与心得。希望能帮大家解决技术难题,提升开发效率!自身从与大家的沟通中获得进步,欢迎留言交流,一起成长!
内容 2556
粉丝 0
运维开发与AI实战 DevSecOps工程师,分享AI, Web3, Claude code开发的经验与心得。希望能帮大家解决技术难题,提升开发效率!自身从与大家的沟通中获得进步,欢迎留言交流,一起成长!
总阅读74.9k
粉丝0
内容2.6k