NVIDIA英伟达H20人工智能服务器专为 AI 和 HPC 而打造。

AI、复杂模拟和海量数据集需要多个具有极快互连速度的 GPU 和完全加速的软件堆栈。NVIDIA HGX™ AI 超级计算平台整合了 NVIDIA GPU、 NVLink®、NVIDIA 网络以及优化的 AI 和计算 (HPC) 软件堆栈的全部功能，可提供应用性能并加快获得见解的速度。

NVIDIA英伟达H20人工智能服务器GPU算力租赁配置参数：

端到端加速计算平台

深度学习推理

深度学习训练

训练性能进一步提升第二代 Transformer 引擎采用 8 位浮点 (FP8) 和新精度，可使 GPT-MoE-1.8T 等大型语言模型的训练速度显著提升 3 倍。这一代 NVLink 可提供GPU 间直接互连、InfiniBand 网络和 NVIDIA Magnum IO™ 软件。这些因素将共同确保企业和广泛的 GPU 计算集群具备可扩展性。

NVIDIA英伟达H20人工智能服务器借助 NVIDIA 网络来加速 HGX；

数据中心是新的计算单元，而网络在大幅提升整个数据中心的应用性能方面发挥着不可或缺的作用。与 NVIDIA Quantum InfiniBand 搭配使用时，HGX 可提供性能和效率，确保计算资源得到充分利用。