Gemma 4:Google 的开放模型,五种规模,从手机到工作站

dev.to 2026-09-24T09:58:26+08:00

作者:Nokka (นก-กา) | 2026年9月23日

本文由 AI 撰写(使用 ollama-cloud 服务商的 glm-5.3 模型),通过 Nous Research 的 Hermes Agent 生成,由 Nokka 审核和编辑。

起因是 Google for Developers 的视频“Understand the Gemma 4 model family”出现在我的信息流里 [1]。这是 Google DeepMind 最新的开放模型家族,从三月底开始发布,到六月逐步补齐成员,凑满五个规模。我通读了官方发布页、文档和技术报告,简短结论是:这次 Google 的打法和其他厂商不同——不比谁的模型最大,而是比谁在同等模型规模下最聪明,用他们的话说就是“每个参数的智能密度”(intelligence-per-parameter)。

让我停下来打开终端实际试一下的,是 26B A4B 这个混合专家(Mixture-of-Experts)模型。它总参数量约 26B,但每个 token 只激活大约 4B。官方直言它的运行速度几乎和普通 4B 模型一样 [2]。

这意味着你能得到 26B 级别的智能,却只付出小模型的运行速度和内存占用。对比每月都在涨的云服务费用,对自托管的人来说,这个价值一眼就能看出来。

Gemma 4 五个规模从 E2B 到 31B Dense 的内存对比表,含上下文长度和能力信息

五个规模的家族,按设备来选

Gemma 4 于 2026 年 3 月 31 日首发了四个规模,采用 Apache 2.0 许可证,然后在 6 月 3 日追加了第五个成员——12B Unified [2][3]。所有模型都基于与 Gemini 3 相同的研究和技术构建,每个规模都能接收文本和图像;语音和视频则是 E2B、E4B 和 12B 的原生能力 [4]。上下文窗口分两档:小模型 128K,大模型最高 256K token。支持超过 140 种语言。

尺寸 架构 上下文 Q4 内存占用 适用场景
E2B 最小 128K 2.9 GB(手机端 1.1 GB) 手机、边缘设备
E4B 小 128K 4.5 GB(手机端 2.5 GB) 笔记本、手机端推理任务
12B Unified 无编码器 256K 6.7 GB 工作站多模态
26B A4B MoE 256K 14.4 GB 消费级 GPU,速度接近 4B
31B Dense 256K 17.5 GB 最高质量任务、研究

内存数据来自官方手册,仅统计模型权重,不含随上下文长度增长的 KV 缓存(键值缓存)。所以选机器的时候,最好再留些余量 [5]。E2B 在手机端只占 1.1 GB,这是官方数据,也是这个系列和竞品拉开差距的地方——目前能在手机上真正跑起来、质量又达到这个水平的开源模型,实在不多。

12B Unified:家族里的异类

特别值得关注的是 12B Unified,它比同系列其他成员晚一些发布,因为架构完全不同。常规模型会先用独立的编码器处理图像和音频,再送进大语言模型;12B Unified 则把编码器整个砍掉,图像像素和音频波形直接通过一个轻量线性层,投射进嵌入空间 [4]。结果就是一个模型同时搞定文本、图像和音频,4 位量化后内存占用约 6.7 GB,这个行业里常用的 Mac 可以轻松装下。

怎么看 benchmark 数据

Google 公布的分数是对比上一代 Gemma 3 27B 得出的。家族里的大块头又上了一个台阶:31B 在 MMLU Pro 上拿到 85.2,上一代是 67.6;数学竞赛 AIME 2026 从 20.8 跳到 89.2;竞赛编程 LiveCodeBench v6 从 29.1 升到 80.0 [6]。从这些数字能清楚看出,这个系列确实变强了,不只是上下文变长而已。

我比较欣赏的一点是,Google 把每个尺寸的分数都公开了,能清楚看到不同尺寸之间的取舍。E2B 在 AIME 上得 37.5,26B A4B 得 88.3,几乎追平 31B 的 89.2,但运行时占用的内存不到后者的一半。这就是为什么 26B A4B 成了整套模型里最受自己跑模型的人关注的一个,发布时在 Arena 开源模型榜上排到第 6,而 31B 排在第 3 [3]。

读这些数字也得留个心眼,跟看其他评测一样。这些分数都是 Google 自己在选定的测试集上跑出来的,而且开了 thinking 模式——代价是想得更久、吐出的 output token 更多。模型的思考账单从来不会免费,哪怕模型本身免费。Arena 排名也只是发布那一刻的快照,排行榜每周都在变。把它当成竞争信号看就好,别当成一锤定音的判决。

真实设备上的实测例子

聊完数字,补充几个能摸得着的实际例子。26B A4B 是冲着消费级 GPU 设计的,比如 RTX 3090、4090,以及内存够大的 Mac [5]。E2B 则有通过 LiteRT-LM 提供的手机版本,纯文本场景内存占用只剩 0.84 GB,中端手机也能塞得下。这两个例子正好是家族的两端——从口袋里的迷你机器,到桌上的工作站。

生态跑得比初始数字还快

容易被忽略的一点是社区的推力。发布当天,Gemma 自初代以来的下载量已超过 4 亿次,到 2026 年 8 月 20 日突破 10 亿次,社区衍生出的变体超过十万个 [7]。

这个数字之所以重要,是因为没人用的开源模型不会有配套工具、不会有 fine-tune 配方,也没人帮你修 bug。这个家族早就稳稳跨过了这道坎。

Android 这边更有意思。Google 从四月初就把 Gemma 4 放进了 AICore Developer Preview,让开发者在真机上测试两个版本:干重活的 E4B,和快三倍、适合轻任务的 E2B [8]。

Google 给出的数字是比上代快四倍、省电约 60%,还明确说这套模型就是今年底随设备一起到来的 Gemini Nano 4 的基础。今天为 Gemma 4 写的代码,将来能在新手机上继续生效。最新进展是九月第一天,Android Studio 的 Quail 版本还把 Gemma 4 作为本地工具直接嵌进了 IDE。

自己跑模型的人还该知道一件事:四月中旬发布的 Multi-Token Prediction 套件。这项技术让模型一次预测后面好几个 token,推理速度最高提升三倍,而且不用牺牲质量 [7]。综合来看,这个家族更像是一整套完整的工程作品,而不只是丢出一堆模型权重就完事。

自部署视角

对像我这样喜欢自己跑模型的人来说,把上面的信息拼起来,选型路径就清楚多了。内存 16 GB 的普通机器,可以从量化版 E4B 起步,一路玩到 12B Unified;机器有 24 GB 以上,14.4 GB 的 26B A4B 就是整个系列的“甜点”;而 17.5 GB 的 31B dense 质量最高,但明显更慢、更吃资源,因为它在生成每个 token 时都要激活全部参数。

许可证是 Apache 2.0,不设用户上限,这是它和不少开源对手的关键区别——很多开源模型会附带营收或用户数条件。想把模型嵌进产品里的创业团队,用 Gemma 4 不用为这些条款操心。

如果问该从哪个型号开始,我的建议是:先拿 26B A4B 跑你自己的真实任务,再往下试 E4B 或 E2B,看能接受到哪一档。这样比从小模型起步、最后失望要快得多,因为这个家族里不同尺寸的差距,比尺寸数字看上去大得多——尤其在数学和代码任务上,E4B 在 AIME 上拿到 42.5,而 26B A4B 能到 88.3 [6]。

最后说点宏观的。今年的模型竞争已经从“谁最强”转向“谁最省资源”,既看 API 价格,也看模型能不能真的跑在普通人的机器上。Gemma 4 就是 Google 在这个方向上的出拳;当其他厂商还在比裸 benchmark 数字时,值得关注的是,像阿里这样维护 Qwen 系列的玩家,下一轮会怎么接招。

参考文献:

[1] Google for Developers. "Understand the Gemma 4 model family." YouTube, 2026.https://www.youtube.com/watch?v=4oxA9o_OmWo

[2] Google DeepMind. "Gemma 4 model card." ai.google.dev, 2026.https://ai.google.dev/gemma/docs/core/model_card_4

[3] Farabet C. 与 Lacombe O. "Gemma 4: Byte for byte, the most capable open models." blog.google, 2026 年 4 月 2 日.https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/

[4] Google DeepMind. "Gemma 4 Technical Report." arXiv, 2026.https://arxiv.org/html/2607.02770v1

[5] Google AI for Developers. "Gemma 4 model overview." ai.google.dev, 2026.https://ai.google.dev/gemma/docs/core

[6] Google DeepMind. "Gemma 4 Performance." deepmind.google, 2026.https://deepmind.google/models/gemma/gemma-4/

[7] Google. "Gemma passes 1 billion downloads." blog.google, 2026 年 8 月 20 日.https://blog.google/innovation-and-ai/technology/developers-tools/gemma-one-billion-downloads/

[8] Chou D. 与 Chang C.《在 AICore 开发者预览版中发布 Gemma 4》,android-developers.googleblog.com,2026 年 4 月 2 日。https://android-developers.googleblog.com/2026/04/AI-Core-Developer-Preview.html

查看原文