点击上方 前端Q,关注公众号
回复加群,加入前端Q技术交流群
4 月 2 日,Google 发布了 Gemma 4 系列开源模型。256K 上下文、原生函数调用、Apache 2.0 许可证——这些已经很香了。但真正让我兴奋的是:有人用它做了一个 Chrome 插件,靠 WebGPU 在浏览器里跑本地 Agent,不需要 API Key,不上传数据。
说实话,开源模型发布已经不算新闻了。每个月都有新模型出来,benchmark 一个比一个好看。
但 Gemma 4 有几个点让我觉得确实值得聊一聊——不是因为它"最强",而是因为它可能是第一个真正为 Agent 场景设计的开源模型,而且落地路径对前端开发者来说特别友好。
四个模型,各有定位
Gemma 4 一口气出了四个尺寸:
| 模型 | 参数量 | 推理激活 | 上下文 | 适合场景 |
|---|---|---|---|---|
| E2B | 2.3B | 2.3B | 8K | 边缘设备、树莓派 |
| E4B | 4B | 4B | 32K | 手机、嵌入式 |
| 26B MoE | 26B | 3.8B | 256K | 生产环境首选 |
| 31B Dense | 31B | 31B | 256K | 旗舰推理 |
几个关键数字:
256K 上下文。从 Gemma 3 的 128K 直接翻倍。对做 RAG 或长文档处理的场景来说,这个提升很实在。
26B MoE 推理只激活 3.8B 参数。这意味着一个 26B 的模型跑起来的速度接近 4B 模型,但效果接近 30B 级别。做过模型部署的人知道这有多香。
Apache 2.0 许可证。没有 MAU 限制,没有"Built with xxx"的署名要求,商用零门槛。对比 Llama 4 的社区许可证(700M MAU 上限),这个差距很明显。
Benchmark:小模型打大模型
Gemma 4 最让人意外的是性价比。31B 的模型在多个关键 benchmark 上打赢了 Llama 4 Maverick(400B 参数):
和同级别的 Qwen 3.5 27B 比较接近,部分知识类任务 Qwen 略强(MMLU Pro 86.1% vs 85.2%),但代码和推理 Gemma 4 领先。
一句话:在 30B 以下这个档位,Gemma 4 目前是综合最强的开源选择。
真正的亮点:为 Agent 而生
很多开源模型是"通用模型顺便支持一下函数调用"。Gemma 4 不一样,它从训练阶段就针对 Agent 场景做了专门设计:
6 个专用函数调用 Token。模型内置了 <tool_call>、<tool_result> 等特殊 Token,函数调用不是靠 Prompt 技巧模拟的,而是模型原生能力。
可配置思维模式。类似 Claude 的 extended thinking,你可以让模型在回答前先做多步推理和规划。在复杂 Agent 任务中(比如"先搜索、再分析、最后生成报告"),这种显式思维链能显著降低出错率。
结构化 JSON 输出。对工具调用来说,格式稳定性至关重要。Gemma 4 原生支持约束输出为指定的 JSON Schema,不需要靠后处理来修复格式问题。
前端最关心的:浏览器里跑 Agent
这是我最想聊的部分。
有人基于 Gemma 4 做了一个叫 Gemma Gem 的 Chrome 扩展。它用 WebGPU 在浏览器端直接跑 Gemma 4 E2B 模型——不需要后端服务器,不需要 API Key,数据不出浏览器。
它能做什么?在你正在浏览的网页上执行 Agent 操作:阅读页面内容、点击按钮、填写表单、提取信息。
这对前端开发者意味着几件事:
隐私。模型和数据都在本地,适合处理敏感信息(比如帮你分析银行账单页面)。
零成本。没有 API 调用费,没有配额限制。只要你的显卡支持 WebGPU(大部分 2020 年后的设备都支持),就能跑。
离线可用。模型下载一次之后,断网也能用。
开发门槛极低。前端开发者不需要学 Python、不需要搭服务器,直接在 Chrome 扩展的 JS 环境里调用模型。
当然,限制也很明显:E2B 是个 2.3B 的小模型,复杂推理能力有限。它更适合做"浏览器内的轻量级助手",而不是"替代 Claude/GPT 的全能 Agent"。
本地部署选项
如果你想跑更大的模型,Gemma 4 在本地部署方面也很友好:
31B 模型在单块 80GB H100 上能全精度运行。如果你用消费级显卡(比如 RTX 4090 的 24GB),4-bit 量化版本也能流畅推理。
26B MoE 模型是生产环境的最佳选择——因为推理只激活 3.8B 参数,延迟比 31B Dense 低很多,但效果差距不大。
我的看法
Gemma 4 的发布让我看到两个趋势:
第一,开源模型的 Agent 能力正在快速追赶闭源。 原生函数调用、结构化输出、思维链——这些以前只有 GPT-4 和 Claude 才有的能力,现在 30B 级别的开源模型也具备了。
第二,浏览器端 AI 正在从"能跑"走向"能用"。 WebGPU + 轻量模型的组合,让"前端直接调本地模型"这件事变得可行。虽然还不能替代云端大模型,但在特定场景(隐私优先、离线使用、零成本)下已经有了实际价值。
对前端开发者来说,我的建议是:先用 Ollama 把 26B MoE 跑起来玩一玩,感受一下开源模型做 Agent 是什么体验。 如果你对浏览器端 AI 感兴趣,装个 Gemma Gem 扩展体验一下——可能是目前最接近"前端原生 AI"的东西。
往期推荐

