page contents

英伟达推出全新硬件架构 Hopper:数据中心变AI工厂

近日,在NVIDIA GTC 上,英伟达发布了全新硬件架构和产品迭代。

attachments-2022-03-Xe9P107u62412277856a9.png

近日,在NVIDIA GTC 上,英伟达发布了全新硬件架构和产品迭代。

英伟达全新的GPU架构 Hopper 被称为“下一代加速计算。该架构是以美国计算机科学家先驱 Grace Hopper 命名,继承了两年前推出的 NVIDIA Ampere 架构。同时,公司还发布了首款基于 Hopper 的 GPU,即 NVIDIA H100。

英伟达表示:与前身架构相比,Hopper在性能方面有了一个数量级的飞跃,同时带来了六项突破性的创新。

  • 制造:H100 采用先进的 TSMC 4N 工艺构建,800 亿个晶体管,专为 NVIDIA 的加速计算需求而设计,同时,在加速 AI、HPC、内存带宽、互连和通信方面取得了重大进步,包括每秒近 5 TB 的外部连接。
  • 多实例 GPU (MIG):MIG 技术将单个 GPU 划分为七个更小的、完全隔离的实例来处理不同类型的作业。Hopper 架构通过在云环境中跨每个 GPU 实例提供安全的多租户配置,将 MIG 功能比上一代扩展了多达 7 倍。
  • 机密计算:英伟达表示 H100 是世界上第一个具有机密计算能力的加速器,可以在处理 AI 模型和客户数据时保护它们。客户还可以将机密计算应用于 医疗保健和金融服务等隐私敏感行业以及共享云基础设施的联合学习。
  • 第四代NVIDIA NVLink:为了加速最大的 AI 模型,NVLink 与新的外部 NVLink 交换机相结合,将 NVLink 扩展为服务器之外的纵向扩展网络,与使用 NVIDIA HDR Quantum InfiniBand 的上一代相比,以 9 倍的带宽连接多达 256 个 H100 GPU。
  • DPX指令加速动态规划:动态规划既是一种数学优化方法,也是一种计算机编程方法。动态编程被用于广泛的算法,包括路线优化和基因组学,与 CPU 相比,它的执行速度最高可提高 40 倍,与上一代 GPU 相比最高可提高 7 倍。
  • Transformer 引擎:Transformer 是自然语言处理的标准模型,也是深度学习模型之一。H100 加速器的 Transformer Engine 会将网络加速到上一代的6倍,并且不会损失准确性。

更多相关技术内容咨询欢迎前往并持续关注六星社区了解详情。

如果你想用Python开辟副业赚钱,但不熟悉爬虫与反爬虫技术,没有接单途径,也缺乏兼职经验
关注下方微信公众号:Python编程学习圈,获取价值999元全套Python入门到进阶的学习资料以及教程,还有Python技术交流群一起交流学习哦。

attachments-2022-06-AokfKYvR62b3c8d4779b2.jpeg

  • 发表于 2022-03-28 10:50
  • 阅读 ( 289 )
  • 分类:行业资讯

你可能感兴趣的文章

相关问题

0 条评论

请先 登录 后评论
轩辕小不懂
轩辕小不懂

2403 篇文章

作家榜 »

  1. 轩辕小不懂 2403 文章
  2. 小柒 1474 文章
  3. Pack 1135 文章
  4. Nen 576 文章
  5. 王昭君 209 文章
  6. 文双 71 文章
  7. 小威 64 文章
  8. Cara 36 文章