先圈几个重点： Google 正式发布了 Gemma 4 12B 模型，目标是把智能体多模态能力直接塞进笔记本电脑。

这款模型定位很明确——它正好卡在边缘设备适用的 E4B 和更高阶的 26B 混合专家模型之间。内存占用更小，功能却不含糊。

更重要的是： 它是目前端侧中型模型里，头一个原生支持音频输入的。

开发者社区的支持力度相当可观。Gemma 4 系列模型的下载量已经突破 1.5 亿次。从可穿戴机械臂到企业级 AI 安全方案，各种应用层出不穷。现在，大家又可以拿这款新模型继续折腾了。

Gemma 4 12B 的几个关键亮点

• 全新的统一架构——不需要多模态编码器，视觉和音频输入可以直接喂进大语言模型的主干网络。
• 推理能力相当能打——基准测试表现接近 26B 模型，多步骤推理和智能体工作流都解锁了。
• 适配笔记本是个硬指标——16GB 显存或统一内存就能在本地跑起来。
• 开放且好拿——Apache 2.0 许可，开发者生态广泛支持。
• 还带草稿模型——多 Token 预测草稿模型能把推理延迟明显降下来。

这几项加起来，意味着先进的多模态能力可以跑到日常硬件上。速度不掉链子，推理能力也没缩水。接下来，细看看它是怎么做到的。

在本地运行最先进的智能体

标准基准测试里，Gemma 4 12B 的表现跟体量更大的 26B MoE 模型非常接近。内存占用却不到后者的一半。16GB 内存的消费级笔记本就能本地跑，直接在设备上解锁多模态和智能体体验。

体验独特高效的统一架构

Gemma 4 12B 真正亮眼的地方，在于处理视觉和音频输入时的极简设计。

传统多模态模型通常依赖独立编码器来转换图像和音频，再把这些表征传给语言模型。分开的编码器既拖延迟又占内存。所以 Gemma 4 12B 直接用免编码器架构训练，把音频和视觉输入整合到一起。

具体来说，Gemma 4 12B 原生处理多模态输入的方式是这样的：

• 视觉方面：用一个轻量级嵌入模块取代视觉编码器——就是单个矩阵乘法加上位置嵌入和归一化，大语言模型主干直接接手视觉处理。
• 音频方面：更彻底，直接移除音频编码器，把原始音频信号投影到跟文本 Token 一样的维度空间里。

想直观感受原生音频处理的实战效果？可以看看 Gemma 4 12B 如何利用 Google AI Edge Eloquent 应用，在完全离线的情况下对语音输入进行转录、格式化和翻译。

现在就可以亲自上手试试：

• LM Studio、Ollama、Google AI Edge Gallery App、Google AI Edge Eloquent app、LiteRT-LM CLI 里，点几下就能开始实验。
• 模型权重可以直接从 Hugging Face 和 Kaggle 下载预训练和指令微调后的检查点。
• 开发文档和快速入门 Notebook 也准备好了。
• 用 Hugging Face Transformers、llama.cpp、MLX、SGLang、vLLM 这些工具构建本地推理流水线，或者用 Unsloth 高效微调，都行。

为了支持智能体开发，官方还发布了 Skills Repository——一个专门为赋能智能体使用 Gemma 模型而设计的 Skills 库。

生产环境部署方面，Google Cloud 可以快速启动推理端点，通过 Gemini 企业级智能体平台的 Model Garden、Cloud Run 和 GKE 来灵活部署。

《夸克》非常好用的免费AI浏览器

下载APP查看