ガイド
定義
Self-Attention 機構を中核とするニューラルネット構造。 LLM / 画像 / 音声 すべての基盤。
Transformerとは（詳しく解説）
Transformer は Google が 2017 年論文「Attention Is All You Need」 で発表したニューラルネット構造で、 Self-Attention 機構により 系列データの全位置を 並列に重み付けできる。 LLM (GPT / Claude / Gemini) は すべて Transformer のデコーダ部を スケールアップした構造。 画像生成 (Diffusion Transformer)、 音声 (Whisper)、 動画 (Sora) も Transformer を基盤に持つ。 RNN / LSTM の系列処理ボトルネックを解消し、 GPU 並列性を最大化できる点が普及理由。 2026 年は Mamba / RWKV 等の代替も研究中だが、 実運用は依然 Transformer 一強で、 ベンダー各社のロードマップも Transformer 系列の改良が中心。