インフラ・学習

あーるえるえいちえふ

RLHFとは、人間の評価・フィードバックを報酬信号として活用し、LLMの出力を人間の意図に沿わせる強化学習手法のこと。

あーるえるえーあいえふ

RLAIFとはAIモデルが別のAIに評価・フィードバックを与え、強化学習でモデル品質を向上させる学習手法のこと。人間ラベラーを介さずスケーラブルにモデルを改善できる点が最大の特徴。

あてんしょん

入力系列のどこに注目すべきかを 動的に重み付けする仕組み。 Transformer の中核。

えいちびーえむ（こうたいいきはばめもり）

HBMとは、複数のDRAMチップを垂直に積層し、GPUなどのプロセッサ近傍に配置することで広帯域なデータ転送を実現するメモリ規格のこと。

えーあいあらいめんと

AIアライメントとは、 AI の出力や振る舞いを 人間の意図・価値観・安全基準に一致させる技術と設計プロセスのこと。

えーあいふぁくとりー

AIファクトリーとは、数万〜数十万基規模のGPUを集積し、大規模言語モデルの学習・推論に特化して設計された超大規模データセンターのことである。

えすじーらんぐ

SGLangとは、大規模言語モデル(LLM)の推論処理を高速化するために設計されたオープンソースの推論サーバフレームワークのこと。

えぬぴーゆー

NPU (ニューラル処理ユニット) とは、ニューラルネットワークの推論を専門に高速処理する半導体チップのこと。スマホやPCに搭載され、AI処理をCPU・GPUより低消費電力で実行する。

えふえすでぃーぴー

FSDPとは、モデルのパラメータや勾配、オプティマイザ状態を複数GPUに分割して保持し、計算時にだけ必要な部分を集めて学習する分散学習手法のこと。

えふぴーえいと

FP8とは8ビットの浮動小数点形式でAIモデルの数値を表現する量子化技術のこと。従来のFP32・BF16より演算速度と省メモリを両立し、大規模モデルの学習・推論コストを大幅に削減する。

えむえっくすえふぴーふぉー

MXFP4とは、4ビットの浮動小数点値をブロック単位の共有スケール係数と組み合わせて表現する軽量な数値量子化フォーマットのこと。

えむえるえー

MLA(多頭潜在注意)とは、Transformerの推論時にKVキャッシュを低ランクの潜在ベクトルに圧縮し、メモリ使用量と計算コストを削減するAttention機構の改良版のこと。

えむおーいー

MoE（混合エキスパート）とは、複数の専門サブネットワーク（エキスパート）を持ち、入力トークンごとに一部だけを活性化させるスパース型ニューラルネットワーク設計手法のこと。

えるえるえむおぷす

LLMOpsとはLLM（大規模言語モデル）の開発・評価・デプロイ・監視を一貫して管理するための運用基盤とプロセスの総称のこと。

えるぴーゆー

LPU(言語処理ユニット)とは、Groqが開発した大規模言語モデルの推論に特化した専用プロセッサのことで、GPUより高速かつ低遅延なトークン生成を実現する技術のこと。

オラマ

Ollama とは、LLM を自分の PC やサーバー上でダウンロードして動かせるローカル実行ツールのこと。

おんでばいすえーあい

オンデバイスAIとは、クラウドサーバーへ送信せずデバイス本体（スマートフォン・PC・IoT機器など）上でAIモデルを直接推論・実行する技術のこと。

かがくしゅう

過学習とは、モデルが訓練データに適合しすぎて未知データへの汎化性能が著しく低下する現象のこと。

きかいがくしゅう

データから法則を自動学習させる AI 技術の総称。 ディープラーニングや LLM もここに含まれる。

きゅーろーら

QLoRAとは、大規模言語モデルを4bit量子化した状態でLoRA(低ランク適応)を適用し、少ないGPUメモリでファインチューニングする軽量学習手法のこと。

きょうかがくしゅう

強化学習とは、エージェントが環境との試行錯誤を通じて報酬を最大化する行動を自律的に習得する機械学習手法のこと。ChatGPT・ClaudeのRLHFチューニングにも使われる基盤技術。

くーだ

CUDAとは、NVIDIAのGPU上で並列計算を実行するためのプログラミングモデル・開発環境のことで、AI学習や推論の高速化に広く使われている。

ぐるーぷそうたいほうさくさいてきか

GRPOとはグループ相対方策最適化のことで、強化学習を使ってLLMをファインチューニングする手法。複数の出力をグループ化し相対的な報酬で学習するため、従来のPPOより計算コストが低い。

ぐろっきんぐ

グロッキングとは、ニューラルネットワークが訓練データを暗記した状態のまま学習を続けた末に、ある時点で汎化性能が急激に向上する現象のこと。

けーぶいきゃっしゅ

KVキャッシュとは、LMの推論時に自己注意機構のキー（K）・バリュー（V）行列を再計算せずメモリ上に保持する高速化技術のこと。

けんぽうえーあい

憲法AIとは、AIモデルに「守るべき原則リスト（憲法）」を与えて自己批判と修正を繰り返させ、安全かつ倫理的な応答を引き出す訓練手法のこと。

ごうせいでーた

合成データとは、実データの統計的特性を模倣してAIが人工的に生成したデータのこと。個人情報保護や収集コストの削減を目的に、モデル学習・テスト用途で広く活用される。

こうばいちぇっくぽいんと

勾配チェックポイントとは、モデル学習時に中間活性化を保存せず必要時に再計算することでGPUメモリ使用量を削減する手法のこと。

じーきゅーえー

GQA（グループ化クエリ注意）とは、複数のクエリヘッドでKeyとValueをグループ単位で共有し、推論時のメモリ使用量と計算コストを抑える注意機構の一種のこと。

じーじーゆーえふ

GGUFとは、大規模言語モデルを量子化し、CPUやローカル環境でも高速に動作させるためのファイル形式のこと。

じーぴーゆーくらうど

GPUクラウド（GPUaaS）とは、AI学習・推論に必要な高性能GPUを、自社で購入・保守せずクラウド経由で必要な分だけ借りられるサービスのこと。

じごがくしゅう

事後学習 (Post-training) とは、 事前学習を終えた LLM に SFT や RLHF などを追加適用し、 対話性・指示追従性・安全性を高める仕上げ工程のこと。

じぜんがくしゅう

事前学習とは、大規模言語モデルをインターネット上の膨大なテキストデータで学習させ、汎用的な言語理解・生成能力を獲得させる訓練フェーズのこと。

じにあっく

GENIACとは経済産業省とNEDOが生成AI基盤モデル開発を支援するために計算資源(GPU等)を提供する国のプログラムのこと。

じょうりゅう

蒸留とは、大規模な「教師モデル」の知識を小規模な「生徒モデル」に転移させ、軽量化・高速化を図る機械学習の手法のこと。

すけーりんぐそく

スケーリング則とは、モデルサイズ・データ量・計算量を増やすほどAIの性能が予測可能な形で向上するという経験則のこと。

すぱーすあてんしょん

スパースアテンションとは、Transformerの自己注意機構において全トークンペアを計算せず、重要な一部のみに絞って計算量とメモリを削減する手法のこと。

でぃーぴーおー（ちょくせつせんこうさいてきか）

DPO（直接選好最適化）とは、報酬モデルを使わずに人間の選好データから直接LLMを最適化するファインチューニング手法のこと。

てぃーぴーゆー（てんそるしょりゆにっと）

TPUとはGoogleが開発したAI・機械学習専用のカスタムチップのこと。行列演算を高速化し、GPU比で数倍〜数十倍のスループットを実現する。

でぃーぷらーにんぐ

ニューラルネットワークを多層化した機械学習手法。 LLM / 画像認識 / 音声認識 の基盤技術。

てんいがくしゅう

転移学習とは、ある課題で学習済みのモデルが持つ知識を別の関連課題に応用し、少ないデータや計算資源で新しいタスクに適応させる機械学習の手法のこと。

てんそるへいれつ

テンソル並列とは、巨大なニューラルネットワークの1層内の行列演算を複数のGPUに分割し、同時並行で計算させる並列化手法のこと。

とうきてきでこーでぃんぐ

投機的デコーディングとは、小さなドラフトモデルが先読みしたトークン列を大型モデルが並列検証することで推論速度を2〜4倍に高めるLLM高速化手法のこと。

とらんすふぉーまー

Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。

ぱいぷらいんへいれつ

パイプライン並列とは、巨大なニューラルネットワークを層(レイヤー)単位で複数のGPUに分割し、ミニバッチを流れ作業のように順次処理させる並列学習・推論手法のこと。

びーふろーとじゅうろく

bfloat16(BF16)とは、指数部をFP32と同じ8ビット確保し仮数部を7ビットのみにした16ビット浮動小数点形式のこと。

ふぁいんちゅーにんぐ

既存の AI モデルを 自社データで追加学習させて 専門特化させる方法。

ぶいえるえるえむ（すいろんさーば）

vLLMとはオープンソースのLLM推論フレームワークのこと。独自のPagedAttentionアルゴリズムで高スループットを実現し、自社GPUサーバ上にOpenAI互換APIを構築できる。

ぶらっくうぇる

Blackwellとは、NVIDIAが2024年に発表した次世代GPUアーキテクチャの名称で、Hopper世代の後継として大規模AI学習・推論向けに設計された半導体基盤のこと。

ふらっしゅあてんしょん

FlashAttentionとはTransformerの注意機構をGPUメモリ階層を活かして高速・省メモリで実行するアルゴリズムのこと。長文脈処理の計算コストを大幅に削減する。

ぺーじどあてんしょん

PagedAttentionとは、LLM推論のKVキャッシュをOSのページング方式でブロック単位管理し、メモリ断片化を抑えて処理効率を高める仕組みのこと。

ぺふと

PEFTとは、大規模言語モデルの全パラメータを更新せず、LoRAなど少数パラメータのみを調整することで、低コスト・短時間でモデルを特定タスクに適応させる微調整手法群のこと。

ほうしゅうもでる

報酬モデルとは、人間のフィードバックを学習し、AIの出力がどれだけ望ましいかをスコアリングするモデルのこと。

めいれいちゅーにんぐ

命令チューニングとは、事前学習済みの大規模言語モデルに対して「指示→理想回答」形式のデータで追加学習を行い、ユーザーの指示に従う能力を後付けする手法のこと。

もでるまーじ

モデルマージとは、複数の学習済みAIモデルのパラメーター（重み）を数学的に統合し、追加学習のコストをかけずに異なる能力を一つのモデルへ合成する技術のこと。

もでるるーてぃんぐ

モデルルーティングとは、入力されたタスクの内容や難易度に応じて、複数のAIモデルの中から最適なモデルへ自動的に振り分ける仕組みのこと。

らまどっとしーぴーぴー

llama.cppとは、Meta社のLLaMA系モデルをCPU上でも高速に動かせるよう最適化されたC/C++製のオープンソース推論エンジンのこと。

りょうしか

量子化とはAIモデルの重みパラメータを低ビット精度に圧縮し、推論速度の向上・メモリ使用量の削減を実現する技術のこと。

れんごうがくしゅう

連合学習とは、データを一箇所に集めずに各端末や組織のローカル環境でモデルを学習させ、更新した重みだけを共有してグローバルモデルを改善するプライバシー保護型の機械学習手法のこと。

れんぞくばっちんぐ

連続バッチングとは、LLM推論サーバーが個々のリクエストの完了を待たずに新規リクエストをトークン単位で随時差し込みながら処理する方式のこと。

ろーぷ（かいてんいちうめこみ）

RoPEとは、Transformer系のLLMでトークンの位置情報を回転行列によってQuery・Keyベクトルに埋め込む位置エンコーディング手法のこと。

ろーら

LoRAとは、大規模モデルの重みを凍結したまま低ランク行列ペアを追加挿入することで、全パラメータの1%以下の計算コストで特定ドメインへの適応を実現するファインチューニング手法のこと。