page contents

谷歌推出开源模型Google Gemma 2 可以在普通电脑上高速推理和运行

谷歌推出开源模型 Google Gemma 2,尺寸更小、能力更好甚至可以在普通台式机和笔记本电脑上运行。得益于重新设计的架构,Gemma 2 提供卓越的能力并降低了硬件要求,在缩小尺寸参数的同时仍然可以提供更好的性能。现在开发者就可以通过 Hugging Face 等平台下载这些模型。

attachments-2024-07-3ACQqHsw668b82adc3a93.jpg谷歌旗下人工智能团队日前推出开源模型 Google Gemma 2,这是谷歌 Gemma 系列开源模型中的重要版本更新,新版本不仅在体积上更小适合普通硬件运行,同时还提供非常卓越的能力。

目前在开源和开放模型领域有诸多模型,包括 Meta 的 Llama 系列模型、阿里云的通义千问系列模型以及谷歌 Gemma 系列模型等,但需要注意的是 Meta Llama 只是开放但并非开源。

而阿里云的通义千问和谷歌 Gemma 都是开源模型,例如 Gemma 2 基于 Apache License v2.0 版开源协议,无论是个人、开发者还是企业都可以自由使用这些模型构建任意内容,推动 AI 技术的发展。

说到这不得不再提下某知名公司所说的开源模型最终会被闭源模型打败,这种公司大概率底层也是靠开源模型支撑自己再改改,结果还大言不惭的对开源模型指手画脚。

说回 Gemma 2 模型,谷歌提供 9B 版和 27B 版,这些模型可以在高性能笔记本电脑、台式机甚至基于云的系统上运行,例如可以通过单个 NVIDIA H100 AI 加速卡进行微调和运行,显著降低高性能模型对硬件算力的要求。

下面是该模型的几个重要优势:

  • 提供更卓越的能力:Gemma 2 27B 版在同参数模型里能力更好,甚至能力媲美两倍参数也就是 54B 模型的效果
  • 提高效率和降低成本:27B 版可以在单个 Google Cloud TPU 主机、NVIDIA A100 80GB 版和 NVIDIA H100 上推理
  • 跨硬件的超快推理:得益于重新设计的架构,Gemma 2 经过优化可以在各种硬件上高速运行,包括高性能笔记本和台式机

考虑到现在谷歌已经尝试在 Chrome 浏览器中内置 Gemma 模型,估计后续 Chrome 会换成 Gemma 2 9B 或 27B 版为开发者提供动力,这些模型完全在本地运行不需要联网,开发者可以构建应用调用模型实现 AI 功能。

而 Gemma 2 使用开源许可证,开发者和企业可以下载该模型进行微调和构建自己的应用,从下个月起 Google Cloud 云计算用户将可以轻松地在 Vertex AI 上部署和管理 Gemma 2。

不过现在开发者和企业就可以在 Google AI Studio 上测试 Gemma 2,也可以通过 Hugging Face 下载该模型:http://huggingface.co/google/

谷歌在 Hugging Face 上提供的模型版本包括 Gemma 2 9B、Gemma 2 9B IT、Gemma 2 27B、Gemma 2 27B IT,开发者可以根据需要选择不同的版本。

更多相关技术内容咨询欢迎前往并持续关注好学星城论坛了解详情。

想高效系统的学习Python编程语言,推荐大家关注一个微信公众号:Python编程学习圈。每天分享行业资讯、技术干货供大家阅读,关注即可免费领取整套Python入门到进阶的学习资料以及教程,感兴趣的小伙伴赶紧行动起来吧。

attachments-2022-05-rLS4AIF8628ee5f3b7e12.jpg

  • 发表于 2024-07-08 14:10
  • 阅读 ( 50 )
  • 分类:行业资讯

你可能感兴趣的文章

相关问题

0 条评论

请先 登录 后评论
小柒
小柒

1312 篇文章

作家榜 »

  1. 轩辕小不懂 2403 文章
  2. 小柒 1312 文章
  3. Pack 1135 文章
  4. Nen 576 文章
  5. 王昭君 209 文章
  6. 文双 71 文章
  7. 小威 64 文章
  8. Cara 36 文章