大数跨境

Gemma 4 发布:开源模型终于能在浏览器里跑 Agent 了

Gemma 4 发布:开源模型终于能在浏览器里跑 Agent 了 前端Q
2026-04-10
0
导读:说实话,开源模型发布已经不算新闻了。每个月都有新模型出来,benchmark 一个比一个好看。

点击上方 前端Q,关注公众号

回复加群,加入前端Q技术交流群

4 月 2 日,Google 发布了 Gemma 4 系列开源模型。256K 上下文、原生函数调用、Apache 2.0 许可证——这些已经很香了。但真正让我兴奋的是:有人用它做了一个 Chrome 插件,靠 WebGPU 在浏览器里跑本地 Agent,不需要 API Key,不上传数据。

说实话,开源模型发布已经不算新闻了。每个月都有新模型出来,benchmark 一个比一个好看。

但 Gemma 4 有几个点让我觉得确实值得聊一聊——不是因为它"最强",而是因为它可能是第一个真正为 Agent 场景设计的开源模型,而且落地路径对前端开发者来说特别友好。

四个模型,各有定位

Gemma 4 一口气出了四个尺寸:

模型 参数量 推理激活 上下文 适合场景
E2B 2.3B 2.3B 8K 边缘设备、树莓派
E4B 4B 4B 32K 手机、嵌入式
26B MoE 26B 3.8B 256K 生产环境首选
31B Dense 31B 31B 256K 旗舰推理

几个关键数字:

256K 上下文。从 Gemma 3 的 128K 直接翻倍。对做 RAG 或长文档处理的场景来说,这个提升很实在。

26B MoE 推理只激活 3.8B 参数。这意味着一个 26B 的模型跑起来的速度接近 4B 模型,但效果接近 30B 级别。做过模型部署的人知道这有多香。

Apache 2.0 许可证。没有 MAU 限制,没有"Built with xxx"的署名要求,商用零门槛。对比 Llama 4 的社区许可证(700M MAU 上限),这个差距很明显。

Benchmark:小模型打大模型

Gemma 4 最让人意外的是性价比。31B 的模型在多个关键 benchmark 上打赢了 Llama 4 Maverick(400B 参数):

▸代码:LiveCodeBench 80.0% vs Llama 4 的 43.4%
▸推理:GPQA Diamond 84.3% vs Llama 4 的 69.8%
▸数学:AIME 2026 达到 89.2%

和同级别的 Qwen 3.5 27B 比较接近,部分知识类任务 Qwen 略强(MMLU Pro 86.1% vs 85.2%),但代码和推理 Gemma 4 领先。

一句话:在 30B 以下这个档位,Gemma 4 目前是综合最强的开源选择。

真正的亮点:为 Agent 而生

很多开源模型是"通用模型顺便支持一下函数调用"。Gemma 4 不一样,它从训练阶段就针对 Agent 场景做了专门设计:

6 个专用函数调用 Token。模型内置了 <tool_call>、<tool_result> 等特殊 Token,函数调用不是靠 Prompt 技巧模拟的,而是模型原生能力。

可配置思维模式。类似 Claude 的 extended thinking,你可以让模型在回答前先做多步推理和规划。在复杂 Agent 任务中(比如"先搜索、再分析、最后生成报告"),这种显式思维链能显著降低出错率。

结构化 JSON 输出。对工具调用来说,格式稳定性至关重要。Gemma 4 原生支持约束输出为指定的 JSON Schema,不需要靠后处理来修复格式问题。

前端最关心的:浏览器里跑 Agent

这是我最想聊的部分。

有人基于 Gemma 4 做了一个叫 Gemma Gem 的 Chrome 扩展。它用 WebGPU 在浏览器端直接跑 Gemma 4 E2B 模型——不需要后端服务器,不需要 API Key,数据不出浏览器。

它能做什么?在你正在浏览的网页上执行 Agent 操作:阅读页面内容、点击按钮、填写表单、提取信息。

这对前端开发者意味着几件事:

隐私。模型和数据都在本地,适合处理敏感信息(比如帮你分析银行账单页面)。

零成本。没有 API 调用费,没有配额限制。只要你的显卡支持 WebGPU(大部分 2020 年后的设备都支持),就能跑。

离线可用。模型下载一次之后,断网也能用。

开发门槛极低。前端开发者不需要学 Python、不需要搭服务器,直接在 Chrome 扩展的 JS 环境里调用模型。

当然,限制也很明显:E2B 是个 2.3B 的小模型,复杂推理能力有限。它更适合做"浏览器内的轻量级助手",而不是"替代 Claude/GPT 的全能 Agent"。

本地部署选项

如果你想跑更大的模型,Gemma 4 在本地部署方面也很友好:

bash
# Ollama 一键部署
ollama run gemma4:26b

# 或者用 4-bit 量化版本(24GB 显存的消费级显卡就能跑)
ollama run gemma4:31b-q4

31B 模型在单块 80GB H100 上能全精度运行。如果你用消费级显卡(比如 RTX 4090 的 24GB),4-bit 量化版本也能流畅推理。

26B MoE 模型是生产环境的最佳选择——因为推理只激活 3.8B 参数,延迟比 31B Dense 低很多,但效果差距不大。

我的看法

Gemma 4 的发布让我看到两个趋势:

第一,开源模型的 Agent 能力正在快速追赶闭源。 原生函数调用、结构化输出、思维链——这些以前只有 GPT-4 和 Claude 才有的能力,现在 30B 级别的开源模型也具备了。

第二,浏览器端 AI 正在从"能跑"走向"能用"。 WebGPU + 轻量模型的组合,让"前端直接调本地模型"这件事变得可行。虽然还不能替代云端大模型,但在特定场景(隐私优先、离线使用、零成本)下已经有了实际价值。

对前端开发者来说,我的建议是:先用 Ollama 把 26B MoE 跑起来玩一玩,感受一下开源模型做 Agent 是什么体验。 如果你对浏览器端 AI 感兴趣,装个 Gemma Gem 扩展体验一下——可能是目前最接近"前端原生 AI"的东西。

往期推荐

Multi-Agent Teams:让多个专家 Agent 像团队一样协作
AI Agent 是怎么"想一步做一步"的?拆解 ReAct 模式
从零开始:用 LangChain.js 构建你的第一个 Tool-Calling Agent
最后
点个在看支持我吧

【声明】内容源于网络
0
0
前端Q
1234
内容 745
粉丝 0
前端Q 1234
总阅读0
粉丝0
内容745