HBM (高帯域幅メモリ)
読み: えいちびーえむ（こうたいいきはばめもり）
最終更新: 2026-07-17・AI PICKS編集部
定義
HBMとは、複数のDRAMチップを垂直に積層し、GPUなどのプロセッサ近傍に配置することで広帯域なデータ転送を実現するメモリ規格のこと。
HBM (高帯域幅メモリ)とは — 詳しく解説
HBM (High Bandwidth Memory) は、JEDECが規格化した積層型DRAM規格で、シリコン貫通電極(TSV)により複数のDRAMダイを垂直に積み上げ、広いインターフェース幅で高いメモリ帯域を実現する。GPUやAIアクセラレータのそばにインターポーザ経由で搭載され、大規模言語モデルの学習・推論で必要となる大量のパラメータやKVキャッシュへの高速アクセスを支える基盤技術とされる。2026年時点の実運用では、HBMの供給量そのものがGPUの生産数量を左右するボトルネックとなっており、現場では最新世代のGPUを調達する際にHBM容量・帯域のスペック差が価格に直結する構造になっている。コスト面では、HBMを搭載したハイエンドGPUは通常メモリ搭載機種より大幅に高額になりやすく、相場感としてもクラウドGPUインスタンスの時間単価に色濃く反映される。現場での選び方としては、モデルサイズとバッチサイズから必要なメモリ帯域を逆算し、HBM容量に対して過剰なスペックを避けることがコスト最適化の鍵になるとされる。
HBM (高帯域幅メモリ)の使用例
- HBMの動作を高速に確認したいときは「このGPUのHBM容量は何GBで、モデルのKVキャッシュは収まるか」と聞くと選定の当たりがつく。
- 「HBM3eとGDDR7のどちらを選ぶべきか、想定バッチサイズと予算内で比較して」と条件を添えて聞くと現場判断に近い回答が得やすい。
HBM (高帯域幅メモリ)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・663語以上を体系的に整理しています
辞典トップへ