The NVIDIA HGX H200 features the NVIDIA H200 Tensor Core GPU with advanced memory to handle massive amounts of data for generative AI and high-performance computing workloads.

Get 32 petaFLOPS of AI performance and 2X faster networking than the previous generation, and high-speed scalability with the NVIDIA DGX H200 architecture. The solution is supercharged for the largest workloads, including generative AI, natural language processing, and deep learning recommendation models.

英伟达在 2023 年全球超算大会上发布了备受瞩目的新一代 AI 芯片——H200 Tensor Core GPU。 相较于上一代产品 H100，H200 在性能上实现了近一倍的提升，内存容量翻倍，带宽也显著增加。

2024年11月27日 · The NVIDIA DGX™ H100/H200 Systems are the universal systems purpose-built for all AI infrastructure and workloads from analytics to training to inference. The DGX H100/H200 systems are built on eight NVIDIA H100 Tensor Core GPUs or eight NVIDIA H200 Tensor Core GPUs.

在 DGX H200 上打造您的 卓越人工智慧中心，DGX H200 是一款完全整合的硬體和軟體的解決方案，包含 NVIDIA Base Command™ 、 NVIDIA AI Enterprise 軟體套件，以及 NVIDIA DGXperts 專家提供的建議。

2024年11月29日 · 作为H100的升级款产品，H200消息大家的关注度挺高，其实从整体参数方面H200只升级了GPU显存相关内容，GPU单卡从80G HBM3升级到了141G HBM3e（显存容量和类型有变化），同时显存带宽从3.35TB/s提升至4.8TB/s，整体参数对比如下：

2024年10月15日 · 作为H100的升级款产品，H200消息大家的 关注度 挺高，其实从整体参数方面H200只升级了GPU显存相关内容，GPU单卡从80G HBM3升级到了141G HBM3e（显存容量和类型有变化），同时显存带宽从3.35TB/s提升至4.8TB/s，整体参数对比如下：

DGX GH200 总共配备了 256 个 Grace Hopper CPU+GPU，轻松超过了 Nvidia 之前最大的 NVLink 连接 DGX 排列（具有八个 GPU），144TB 的共享内存比提供“仅仅”320GB 共享内存的 DGX A100 系统多了 500 倍八个 A100 GPU 之间的内存。 此外，将 DGX A100 系统扩展到具有 8 个以上 GPU 的集群需要使用 InfiniBand 作为系统之间的互连，这会导致性能下降。 相比之下，DGX GH200 标志着 Nvidia 首次围绕 NVLink Switch 拓扑构建了整个超级计算机集 …

NVIDIA DGX H200 powers business innovation and optimization. A foundation of NVIDIA DGX SuperPOD, DGX H200 is an AI powerhouse that features the groundbreaking NVIDIA H200 Tensor Core GPU.

2024年11月27日 · The NVIDIA DGX H100/H200 System User Guide is also available as a PDF.