Gemma
Gemini 的开源同胞，非常适合本地运行。
Olya 的档案
- 独到之处
- Gemma 是谷歌的开放权重模型家族，基于与 Gemini 相同的研究，但设计初衷就是让你在 Apache 2.0 许可下自行下载并部署。真正让它与众不同的是尺寸跨度：从能装进手机的 2.7 亿参数，到 270 亿至 310 亿参数，重量与质量的取舍由你自己决定，而不是被动接受。Gemma 3 可处理文本和图像、12.8 万 token 的上下文以及 140 多种语言；2026 年发布的 Gemma 4 进一步扩大上下文并加入了音频。
- 强项
- 它能在消费级硬件上本地运行：270 亿参数的 Gemma 3 可装进 RTX 3090 这样的单张 24GB 显卡，小型版本则能触及笔记本和手机。由于是开放权重且采用 Apache 2.0，你可以将其商用、在自有数据上微调，并把一切留在自己的高墙之内，无需调用外部 API。它在关键处处处受支持：Hugging Face、Ollama、llama.cpp、JAX、PyTorch 和 Keras。
- 何时使用
- 当出于隐私或合规原因数据不能离开你的基础设施，或当你想要可预测的成本而非按 token 付费时，它就很划算。对于离线原型开发、针对特定领域的微调，或在连接稀薄的边缘设备上运行有用的东西，它都是自然之选。
- 何时避开
- 如果你在最棘手的任务上需要顶级推理，闭源的前沿模型仍然领先，那种情况下不如直接调用 Gemini 的 API。还要记住，自托管一个模型意味着要管理显卡、更新和延迟：若你不想承担这份运维负担，托管服务为你省下的力气会多于省下的钱。