系统极客一直在努力
专注操作系统及软件使用技能

Gemma 3:基于 Gemini 2.0 的全新 Google 开源模型

Gemma 3

Google 新发布的 Gemma 3 模型,基于 Gemini 2.0 技术打造,是一组轻量化、高效能的开源模型。它的设计理念主打便携性和高效性,能够在手机、笔记本、工作站等多种设备上快速运行,为用户提供灵活的 AI 解决方案。Gemma 3 带来了 1B4B12B 和 27B 共 4 种模型大小,能满足不同硬件性能的需求。

接下来,我们将带你快速了解 Gemma 3 的亮点功能、全新的 ShieldGemma 2 安全机制,以及如何加入不断壮大的「Gemma 宇宙」。

Gemma 3 亮点功能

  • 全球领先的单加速器模型:Gemma 3 在同等规模下的表现会更加出色,在 LMArena 排行榜的用户偏好评估中,超越了 Llama-405B、DeepSeek-V3 和 o3-mini。开发者可以借助其高性能,在单 GPU 或 TPU 环境中打造高度互动的用户体验。
  • 支持 140 种语言:开箱即用,支持 35 种语言,并预训练支持超过 140 种语言,帮助开发者轻松推出多语言应用。
  • 高级文本与视觉推理能力:支持构建能够分析图像、文本和短视频的 AI 应用,解锁更多智能化的应用场景。
  • 增大上下文窗口:上下文窗口扩展到了 128k Token,能够高效处理大量信息,轻松应对复杂任务。
  • 函数调用与结构化输出:支持函数调用和结构化输出,帮助开发者自动化任务,构建具备智能决策能力的应用。
  • 量化模型提升效率:Google 官方推出的量化版本大大缩减了模型体积,减少了计算需求,同时保持了高精度,让开发流程更加高效。
Gemma 3 Chatbot Arena Elo 评分
Gemma 3 Chatbot Arena Elo 评分

要了解更多技术细节,可以自行查看 Gemma 3 技术报告

Gemma 3 的安全保障

在 Gemma 3 的开发过程中,Google 特别注重技术发展与风险管控的平衡。根据模型能力定制了测试强度,确保其安全性和可靠性。开发流程涵盖了数据治理、微调技术以及全面的基准评估,从多个维度保障模型的安全表现。

值得一提的是,Gemma 3 在 STEM 领域的表现有了显著提升。同时,Google 对其潜在风险进行了独立评估,结果显示其被滥用的风险较低,进一步增强了用户对模型的信任。

全新 ShieldGemma 2 图像安全检测工具

除了 Gemma 3,Google 还推出了基于 Gemma 3 架构的 ShieldGemma 2,这是一款专注于图像安全的4B模型:

  • 现成的图像安全解决方案:ShieldGemma 2 能够在有害内容、性裸露和暴力内容 3 个类别中输出安全标签,帮助开发者快速识别潜在风险。
  • 高度可定制:开发者可以根据具体需求,进一步调整 ShieldGemma 2 的功能,确保图像应用的安全性,满足不同场景的需求。

与现有工具无缝集成

Gemma 3 和 ShieldGemma 2 能够轻松融入你的开发工作流,提供高度灵活性和便捷性:

  • 支持多种开发工具:兼容 Hugging Face Transformers、Ollama、JAX、Keras、PyTorch、Google AI Edge、UnSloth、vLLM 和 Gemma.cpp 等多种工具,满足不同开发需求。
  • 快速上手:你可以通过 Google AI Studio、Kaggle 或 Hugging Face 快速获取 Gemma 3 并开始体验。
  • 灵活定制:Gemma 3 提供了全新的代码库,支持在 Google Colab、Vertex AI 或个人 GPU 上进行微调和推理。
  • 多平台部署:支持 Vertex AI、Cloud Run、Google GenAI API、本地环境等多种部署方式,满足不同场景需求。
  • NVIDIA GPU 优化:NVIDIA 对 Gemma 3 进行了深度优化,无论是 Jetson Nano 还是最新的 Blackwell 芯片,都能发挥最大性能。
  • 跨硬件支持:Gemma 3 不仅支持 Google Cloud TPU,还能与开源 ROCm 堆栈与 AMD GPU 集成,并通过 Gemma.cpp 在 CPU 上高效运行。

加入 Gemma 宇宙

「Gemma 宇宙」是一个由社区驱动的生态系统,汇聚了众多基于 Gemma 的创新工具和模型。以下是几个值得关注的例子:

此外,Google 还启动了 Gemma 3 学术计划,为学术研究人员提供 Google Cloud 经费支持(每名获奖者可获得价值 $10000 的云积分),加速基于 Gemma 3 的研究。申请现已开放,可以在官网提交申请。

开始使用 Gemma 3

快速体验

  • 在线体验:通过 Google AI Studio 直接体验 Gemma 3,无需复杂配置,快速上手。
  • API 集成:获取 API 密钥,结合 Google GenAI SDK 使用 Gemma 3,轻松将 AI 能力集成到你的应用中。

定制开发

  • 模型下载:从 Hugging FaceOllama 或 Kaggle 下载 Gemma 3 模型,快速开始你的开发之旅。
  • 微调与定制:使用 Hugging Face Transformers 或其他工具对 Gemma 3 进行微调,满足你的特定需求。

部署与扩展

  • 推向市场:通过 Vertex AI 将你的应用推向市场,享受 Google Cloud 的强大支持。
  • 快速原型开发:在 NVIDIA API Catalog 上快速开发原型,利用 NVIDIA 的优化技术提升性能。

Gemma 3 的灵活性和高性能为开发者提供了更多创新空间,同时也为用户带来了更智能、更高效的解决方案。让我们一起拥抱这一技术新里程碑,开启 AI 的未来!

赞(0)

评论 抢沙发