NVIDIA HGX 包含高级网络选项 (速度高达 800Gb/s) ，使用 NVIDIA Quantum-X800 InfiniBand 和 Spectrum™-X 以太网实现更高的 AI 性能。 HGX 还包含 NVIDIA BlueField®-3 数据处理器 (DPU) ，可在超大规模 AI 云中实现云网络、可组合存储、零信任安全性和 GPU 计算弹性。

The NVIDIA HGX™ platform brings together the full power of NVIDIA GPUs, NVIDIA NVLink™, NVIDIA networking, and fully optimized AI and high-performance computing (HPC) software stacks to provide the highest application performance and drive the fastest time to insights for every data center.

首先，当前的 NVIDIA DGX 和 HGX 产品线适用于通过 NVLink 连接的 8x GPU 平台。 NVIDIA 还有其他主板，例如称为 Redstone 和 Restone Next 的 4x GPU 组件，但主要的 DGX/HGX (Next) 平台是使用 SXM 的 8x GPU 平台。

NVIDIA HGX™ 人工智慧超級運算平台整合 NVIDIA GPU、NVLink®、NVIDIA 網路的強大功能，以及完全最佳化的人工智慧和 高效能運算 (HPC) 軟體 堆疊，能提供最優異的應用程式效能及最快速的分析回應時間。

算力方面，联想问天 WA7780 G3 AI大模型训练服务器基于第四代 英特尔 至强 可扩展处理器,加载了8颗 NVIDIA HGX™ NVLink ”GPU。 超强架构。 联想问天 WA7780 G3 AI大模型训练服务器,为了满足AI超大模型训练场景下，GPU服务器间高速数据通信的需求,支持1B、RoCE等多种对外网络连接方案。 最高可以支持 8张 RDMA 高速网卡,提供3.2Tb/s聚合带宽。 充分满足了超大模型训练并行计算时,跨节点的通信需求。 同时,在本地存储的设计上,采用了GPU Direct Storage (GDS) …

2025年3月12日 · 顶级GPU配置：作为服务器的核心亮点，HGX H20 96G 8GPU搭载了8张高性能GPU卡，每张卡均具备96GB的显存，为深度学习、图像识别、科学计算等应用场景提供了前所未有的算力支持。

NVIDIA HGX A100 4-GPU delivers nearly 80 teraFLoPS of FP64 performance for the most demanding HPC workloads. NVIDIA HGX A100 8-GPU provides 5 petaFLoPS of FP16 deep learning compute. And the HGX A100 16-GPU configuration achieves a staggering 10 petaFLoPS, creating the world’s most powerful accelerated server platform for AI and HPC.

2024年6月7日 · HGX架构是英伟达推出的高性能GPU服务器架构，旨在为数据中心和 云计算 环境提供高效的计算解决方案。 搭载8个GPU的HGX架构采用了先进的互连技术和优化的 硬件 设计，实现了GPU之间的高速通信和协同计算，为用户提供了强大的计算能力和灵活的部署选项。

2024年11月11日 · HGX是英伟达推出地针对大规模计算推出的GPU卡超级模组，它主要包括了8块sxm的GPU卡、GPU互联底板、Nvlink SW芯片。 SXM 架构是一种高带宽插座式解决方案，用于将 GPU 连接到 NVIDIA 专有的 DGX 和 HGX 系统。

HGX H100 8- GPU 是新一代 Hopper GPU 服务器的关键组成部分。 它拥有八个 H100 张量核 GPU 和四个第三代 NV 交换机。 每个 H100 GPU 都有多个第四代 NVLink 端口，并连接到所有四个 NVLink 交换机。 每个 NVSwitch 都是一个完全无阻塞的交换机，完全连接所有八个 H100 Tensor Core GPU 。 图 1 。 HGX H100 8-GPU 的高级框图. NVSwitch 的这种完全连接的拓扑结构使任何 H100 都可以同时与任何其他 H100 通话。 值得注意的是，这种通信以每秒 900 千 …