LPU (言語処理ユニット)
読み: えるぴーゆー
最終更新: 2026-07-19・AI PICKS編集部
定義
LPU(言語処理ユニット)とは、Groqが開発した大規模言語モデルの推論に特化した専用プロセッサのことで、GPUより高速かつ低遅延なトークン生成を実現する技術のこと。
LPU (言語処理ユニット)とは — 詳しく解説
LPU(Language Processing Unit)とは、Groqが開発した大規模言語モデルの推論処理に特化したASIC(特定用途向け集積回路)のことで、汎用計算向けのGPUとは異なり、トークンを1つずつ生成する逐次処理に最適化されたアーキテクチャによって高速・低遅延な応答を実現する半導体とされる。バッチ処理よりも1リクエストあたりのレイテンシを重視した設計が特徴で、リアルタイム性が求められる音声対話やエージェント型アプリケーションと相性が良いとされる。2026年時点の実運用では、LPUクラウドはGroq社のAPI経由の従量課金利用が主流で、オンプレミス導入のハードルは依然高い。現場での落とし穴は、対応モデルがGroq側のラインナップに限られ、任意のカスタムモデルを自由に載せ替えられない点や、ピーク時のキュー待ちでレイテンシ優位性が薄れる点が挙げられる。コスト面では、GPUクラウドと比べてトークン単価の相場感が変動しやすく、高速性を活かせる用途かどうかを見極めた上で採用可否を判断するのが現場での基本とされる。
LPU (言語処理ユニット)の使用例
- 音声AIアプリの応答遅延を減らすため、LLM推論バックエンドをGPUからGroqのLPUベースAPIに切り替える。
- リアルタイム翻訳やエージェント型ツールを設計する際、レイテンシ要件からLPU採用の可否を検討する。
LPU (言語処理ユニット)に関連するAIツール
関連用語
「インフラ・学習」の他の用語
既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。
データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。
ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。
LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。
AI用語辞典をすべて見てみませんか
12カテゴリ・713語以上を体系的に整理しています
辞典トップへ