本サービスにおける著作権および一切の権利はアイティメディア株式会社またはその情報提供者に帰属します。また、本サービスの出力結果を無断で複写・複

製・転載・転用・頒布等をすることは、法律で認められた場合を除き禁じます。

生成AIとLLMとNVIDIA【前編】：

NVIDIAの新GPU「HGX H200」は何がすごいのか？ 進化した点

は？
https://techtarget.itmedia.co.jp/tt/news/2401/05/news05.html
NVIDIAは生成AIやLLMの処理を効率化する新しいGPUを発表した。近年、AI技術の活用に乗り出す動きが企業に広がっている。企業が着
目すべきGPUの特徴とは。

2024年01月05日 05時00分 更新

[Esther Ajao，TechTarget]

関連キーワード

GPU | CPU | データセンター

2023年11月13日月曜日（現地時間）、GPU（グラフィックス処理装置）ベンダーのNVIDIAはデンバーで開催された
「Supercomputing 2023」(SC23)の特別講演で、新GPUの「NVIDIA HGX H200」（以下、H200）を発表した。SC23は
スーパーコンピューティング、ネットワーク、ストレージの国際カンファレンスだ。

NVIDIAによると、H200はメモリにSK hynixの「HBM3e」を採用してメモリ容量を従来モデルから増やした。これは、テ
キストや画像などを自動生成するAI（人工知能）技術「生成AI」（ジェネレーティブAI）と大規模言語モデル（LLM）の処理
効率化に役立つという。具体的にはどのような進化を遂げたのか。

GPU選びで大事な“あの指標”

併せて読みたいお薦め記事

AIとGPUの関係を深く理解する

メタバース損失続きのMeta、CPUを見限って「GPU」積極採用へ その真意は？
AIが使われない理由は「GPUがないから」とは限らない？

さまざまな企業が生成AIやLLMの活用に乗り出している。とはいえ、こうしたAIワークロード（AI技術を組み込んだシステ
ム）を処理するには一定以上の容量のメモリが必要だ。「メモリ容量は企業にとってしばしば課題になる」とコンサルティン
グ企業J.Gold Associatesの創設者兼アナリストのジャック・ゴールド氏は指摘する。

「AIワークロードは、CPUやGPUだけでなく、メモリにも負荷を掛ける。メモリの処理性能を追加するほど、AIワークロード
の実行速度に違いが出る」（ゴールド氏）

NVIDIAによると、「Amazon Web Services」（AWS）や「Google Cloud」「Microsoft Azure」「Oracle Cloud

Infrastructure」などが、2024年からH200を使ったインスタンス（仮想マシン）をデプロイ（配備）する最初のクラウドサー
ビスになるという。一般提供の開始は2024年下半期になる見込みだ。H200は前世代のモデルである「NVIDIA HGX
H100」と互換性があるため、NVIDIAのユーザー企業はサーバシステムの設計を見直すことなくH200を使用できる。

後編はNVIDIAの他の新製品の紹介や、近年の戦略を分析する。

TechTarget発 世界のインサイト＆ベストプラクティス

1/2 Copyright (c) 2024 ITmedia, Inc. All Rights Reserved.

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けし
ます。

Copyright © ITmedia, Inc. All Rights Reserved.

2/2 Copyright (c) 2024 ITmedia, Inc. All Rights Reserved.