1. 精度とデータ規模
FP64、TF32、BF16、FP8など、必要な数値精度で対象GPUの適性が変わります。モデル重みだけでなく、活性値、KVキャッシュ、FFTグリッド、近接リストなど実行時メモリも確認します。
Hopper GPU server selection
H100・H200 GPUサーバーを、実際の計算条件から選ぶ
H100とH200は、名前だけを比較しても適切な構成は決まりません。必要なGPUメモリ、GPU間通信、CPU・メモリ、電源・冷却、使うソフトウェアをそろえてから、1GPU・4GPU・8GPUの候補を絞ります。
Compare exact products
まず「H100」「H200」のどの製品かを区別します
同じH100/H200でも、PCIe、NVL、SXM/HGXでは形状、電力、GPU間接続、搭載されるサーバーが異なります。ここでは、構成アシスタントで比較しやすい H100 80GB PCIe と H200 NVL 141GB を中心に整理します。
| 確認項目 | H100 80GB PCIe | H200 NVL 141GB | 見積時の判断 |
|---|---|---|---|
| GPUメモリ | 80GB HBM2e | 141GB HBM3e | 代表ジョブのピーク使用量に、ランタイムや通信の余裕を含めます。 |
| 形状 | PCIeカード | PCIe、デュアルスロット、空冷 | 筐体の物理スロット、保持金具、エアフローを確認します。 |
| 複数GPU | サーバー仕様と接続方式を個別確認 | NVIDIA公式では2-way/4-way NVLinkブリッジ構成を案内 | ソフトウェアがどの通信方式を使うかまで合わせます。 |
| 電源・冷却 | GPUと筐体の正確な仕様で確認 | 公式仕様では最大600W（構成可能） | GPUの合計値だけでなくCPU、ファン、ストレージ、冗長電源を含めます。 |
注意：上表はGPU単体の選定入口です。実際に搭載できる枚数、NVLink部材、電源、冷却、対応OS・ドライバはサーバー型番ごとに正式確認が必要です。
Selection criteria
GPUメモリ容量だけでは決めない6つの理由
2. GPU間通信
複数GPUで性能を伸ばすには、アプリケーションの並列方式とGPUトポロジーが一致する必要があります。単純なGPU枚数の増加が、同じ比率の短縮を保証するわけではありません。
3. CPUとホストメモリ
前処理、I/O、MPIランク、データ供給がCPU側で詰まることがあります。CPUソケット数、メモリチャネル、容量、NUMA配置をGPU構成と一緒に決めます。
4. ストレージとネットワーク
チェックポイント、学習データ、trajectory、スクラッチI/Oの量を確認します。複数ノードへ広げる場合はNICとスイッチも構成の一部です。
5. 設置条件
ラック奥行、電源電圧・回路、発熱、騒音、搬入経路を先に確認します。高密度GPUサーバーは、一般的なオフィス電源だけでは設置できない場合があります。
6. 受入試験
GPU認識だけでなく、代表入力の完走、エラーの有無、実行時間、温度、電力、再起動後の再現性を合否条件にします。
Quote preparation
見積依頼に含めると、構成確定が速くなる情報
- 用途：LLM推論・学習、Quantum ESPRESSO、LAMMPS、CFD、自作CUDAなど。
- 代表ケース：モデル名、パラメータ数、入力ファイル、原子数、格子、現在の実行時間、同時ユーザー数。
- 希望条件：GPU候補・枚数、納品希望時期、予算枠。決まっていなければ未定と記載。
- 設置環境：ラック、電源電圧・容量、空調、ネットワーク、搬入上の制約。
- 必要範囲：ハードウェアのみ、OS/CUDA設定、アプリ導入、代表ジョブの受入試験、運用手順書。
この情報を基に、GPUだけでなくCPU、メモリ、ストレージ、ネットワークまで一つの構成として確認します。正式価格、在庫、納期、保証、対応可否は見積時点の条件で回答します。
FAQ
よくある質問
H100とH200はどちらを選ぶべきですか？
必要なGPUメモリ、メモリ帯域、利用するソフトウェア、GPU間通信、設置可能な電源・冷却条件で判断します。代表ワークロードの実測または再現可能なベンチマークを用意すると、過不足を減らせます。
GPUメモリはGPU枚数分を単純に合算できますか？
物理的な総容量と、1プロセスから利用できるメモリは別です。データ並列、テンソル並列、MPIなど、アプリケーション側の分割方式を確認してください。
価格と納期をすぐ確認できますか？
正確なGPU型番、枚数、筐体、CPU、メモリ、ストレージ、ネットワーク、保証条件で変わります。構成を選び、正式見積をご依頼ください。
1GPUから相談できますか？
可能です。最初に代表ジョブを成立させ、結果を見て4GPU・8GPUへ広げる案も作れます。将来増設の可否は最初の筐体選定時に確認します。
Primary sources
仕様確認に使用した公式情報
Build a configuration
H100/H200の条件を引き継いで、本体候補を比較
GPUと希望枚数を事前選択した状態から、対応するサーバー本体、CPU、メモリ、ストレージを確認できます。