これは2U 4です

Jan 17, 2024

Computex 2023 では、ASUS の 2U 4 ノード NVIDIA Grace Superchip サーバーが展示されました。 ASUS RS720QN-E11-RS24U と呼ばれるこの製品は、多くの ASUS レビューで見てきた 24 ベイ 2.5 インチ 2U シャーシと 4 つの NVIDIA Grace Superchip ノードを組み合わせています。

興味深いのは、NVIDIA Grace Superchip モジュールは見た目は見事ですが、多くのサーバーに導入されているものではないということです。 それでも、これがその美しいスキンのモジュールです。

簡単におさらいしておくと、NVIDIA Grace CPU は 72 コアの Arm Neoverse V2 設計です。 NVIDIA によれば、「Grace Superchip」構成と呼ばれる構成の 72 コア CPU のうち 2 つは、SPECint_rate_2017 が約 740 になるはずです。正式に提出された結果ではないため、これは推定値です。 一部の出版物では、144 コアを備えたこのデュアルチップ ソリューションが最速の CPU (またはデュアル CPU 構成) であると述べています。 ここでは例として、1 つの AMD EPYC 9654 を搭載した ASUS は 898 です。 NVIDIA の推定数値を考慮すると、デュアル Grace ソリューションは、整数側で 84 ～ 96 コアのシングル ソケット AMD EPYC "Genoa" と競合するはずです。

このソリューションが備えているのは、高速チップ間相互接続と、ECC をオンボードに搭載した LPDDR5X メモリです。

この数値にメモリも含めると 500W なので、電力効率はかなり高くなります。 AMD EPYC 9654 は 360W TDP を備えていますが、さらに 60W 以上を使用できる 12 個のメモリ チャネルも備えています。 ただし、NVIDIA がこれで得られるのは、約 1TB/秒のメモリ帯域幅を持つ 960GB の ECC メモリです。 つまり、NVIDIA Grace スーパーチップは、Intel Xeon MAX CPU のような HBM メモリを使用せずに、高いメモリ帯域幅を実現するように設計されています。

これは、NVIDIA Grace Superchip を搭載したシステムに関する最初の作品であるため、NVIDIA が人気になり、消費者サイトではこれがどのように最速であるかを説明せずにこれが最速のチップであると言っているため、チップについて少し明確にしたいと思いました。

ASUS RS720QN-E11-RS24Uの簡単なスペックは次のとおりです。 興味深いのは、ASUS が LPDDR5 を 512G/256G と言っていることです。 モジュールには、240GB、480GB、および 960GB 構成の LPDDR5X が搭載される予定です (ECC 付き)。

システムはほとんどの ASUS ノードと同様で、背面 I/O と管理機能を備えています。 大きな違いの 1 つは、ここでは POST コード LED が表示されないことです。

システム内部には、2 つの PCIe Gen5 スロットと 1 つの OCP NIC 3.0 スロットがあります。 搭載されているASPEED BMCも確認できます。

NVIDIA Grace スーパーチップには、シャーシ用にカスタマイズされた巨大なヒートシンクがあり、ノードの幅全体に広がります。 これは実際、ヒートシンクが DIMM スロットへのソケットの周囲の領域に限定されている現在の x86 サーバーとの大きな差別化要因です。 クールな観点から見ると、グレースは非常に理にかなっています。

もう 1 つの優れた機能は、ノードごとに 6 つのフロント 2.5 インチ ベイのほかに、ブート ドライブ用のデュアル M.2 モジュールがあることです。

ノードは高密度コネクタを介してシャーシに接続します。

シャーシについては、これまでに見たことがあることから、あまり詳しく説明するつもりはありません。

全体として、NVIDIA Grace Superchip システムを直接見ることができてとても良かったです。 オンボード LPDDR5X メモリは、144 個の Arm Neoverse V2 コアとともに、このソリューションに多くのメモリ帯域幅を提供します。 システムを見る前はおそらく過小評価していたのですが、オンボード メモリを搭載すると、DIMM スロットの高さを考慮する必要がないため、これらのサーバー用の冷却ソリューションの構築方法がどれほど変わるかということです。

STH ラボでこれらのシステムをもっと見ることができるようになるといいですね。