本文给大家分享的是H200芯片震撼发布：141G超大内存，AI推理性能飙升90%，完美兼容H100的相关内容！

H200芯片震撼发布：141G超大内存，AI推理性能飙升90%，完美兼容H100。这款芯片的性能如何？它能为我们的生活带来哪些便利？它与H100相比有哪些优势？让我们一起来探讨这些问题。

英伟达老黄，带着新一代GPU芯片H200再次炸场。

官网毫不客气地说，“世界上最强的GPU是专门为AI和超算而设计的”。

对人工智能意味着什么？看看测试数据。

在HBM3e的加持下，H200使Llama-70B推理性能几乎翻倍，运行GPT3-175B也能提高60%。

人工智能公司还有一个好消息：H200与H100完全兼容，这意味着将H200添加到现有系统中不需要任何调整。

最强的AI芯片只能半年

除内存大升级外，H200与Hoper架构相同的H100基本相同。

台积电4nm工艺，800亿晶体管，NVLink4每秒900GB的高速互联，都被完全继承。

即使是峰值计算能力也保持不变，数据一目了然，依然熟悉FP64Vector33.5TFlops、64Tensor6TFlops。

为什么内存是零有整的141GB，AnadTech分析HBM3e内存本身的物理容量为144GB，由6个24GB堆栈组成。

由于量产的原因，英伟达保留了一小部分作为冗余，以提高良品率。

与2020年发布的A100相比，H200在GPT-3175B推理上加速了18倍。

H200预计将于2024年第二季度上市，但H200最强人工智能芯片的名字只有半年。

同样在2024年第四季度，基于下一代Blackwell架构的B100也将出现，具体性能尚不清楚，图表暗示将是指数级增长。

多个超算中心将部署GH200超算节点

除了H200芯片本身，英伟达还发布了一系列由其组成的集群产品。

首先是HGXH200平台，它将8个H200搭载到HGX载板上，总显存量达到1.1TB，8位浮点运算速度超过32P(10^15)FLOPS，与H100数据一致。

HGX采用英伟达的NVLink和NVSwitch高速互联技术，可以最大限度地运行各种应用负载，包括175B大模型的训练和推理。

HGX板的独立性使其能够插入合适的主机系统，允许用户定制其高端服务器的非GPU部分。

接下来是QuadGH200超算节点——它由四个GH200组成，而GH200是H200和GraceCPU组合而成。

QuadGH200节点将提供288ArmCPU内核和2.3TB高速内存。

通过大量超级计算节点的组合，H200最终将形成一个巨大的超级计算机，一些超级计算中心已经宣布将GH200系统集成到其超级计算设备中。

根据英伟达的官方声明，德国尤利希超级计算中心将在Jupiter超级计算机上使用GH200超级芯片，其中GH200节点达到24000块，功率为18.2兆瓦，相当于每小时消耗18000多度电。

该系统计划于2024年安装，Jupiter将成为迄今为止宣布的最大的基于Hopper的超级计算机。

Jupiter将拥有93(10^18)FLOPS的AI计算能力、1EFLOPSFP64运算速率、1.2PB每秒带宽、10.9PBLPDR5X和其他2.2PBHBM3内存。

除了Jupiter，日本先进的高性能计算联合中心、德克萨斯高级计算中心、伊利诺伊大学香槟分校国家超级计算应用中心等超级计算中心也宣布将使用GH200更新和升级其超级计算设备。

那么，人工智能从业者有哪些品尝GH200的方法呢？

上线后，GH200将能够通过Lambda、Vultr等特定云服务提供商率先体验，Oracle和Coreweave也宣布了明年提供GH200实例的计划，亚马逊、谷歌云和微软Azure也将成为首批部署GH200实例的云服务提供商。

英伟达本人也将通过其NVIDIALaunchPad平台提供GH200访问。

在硬件制造商方面，华硕、技嘉等厂商计划今年年底开始销售配备GH200的服务器设备。

参考链接：[1]https://www.youtube.com/watch?v=6g0v3tmk2LULU

[2]https://www.nvidia.com/en-gb/data-center/h200/

[3]https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024

这次，和H200芯片震撼发布：141G超大内存，AI推理性能飙升90%，完美兼容H100有关内容就为朋友们整理到这里，更多优惠活动资讯信息可查看本站其他栏目。