定義
Fusion-in-Decoderとは、検索で取得した複数の文書を個別にエンコードし、デコーダ側でまとめて統合してから回答を生成するRAGの実装手法のこと。
Fusion-in-Decoder (FiD)とは（詳しく解説）
Fusion-in-Decoder（FiD）は、検索拡張生成（RAG）における回答生成方式の一つで、質問に対して取得した複数の文書（パッセージ）をエンコーダで個別に処理し、その表現をすべて連結してからデコーダのクロスアテンションで統合する構造を指す。単一の長いコンテキストに全文書を詰め込む方式と比べ、取得件数を増やしても計算量が線形にしか増えないため、多数の候補文書を扱うオープンドメインQAで広く採用されてきたとされる。ただし2026年時点の実運用では、検索件数を増やすほどエンコーダ側の推論コストと待ち時間が積み上がる点が現場での落とし穴になりやすい。加えて、長文脈対応LLMにまとめて文書を渡す方式との精度差が縮まっている領域もあり、相場感としては「検索件数10〜20件規模で精度と速度のバランスを取りたい場合」に選択肢として検討されることが多く、既存のLLMがロングコンテキストのまま十分な精度を出せるなら追加実装のコストに見合わないケースもある。
Fusion-in-Decoder (FiD)の使用例
- 社内マニュアル数十文書を検索対象にしたFAQボットの回答生成部分にFiD構造を採用する設計。
- オープンドメインQAで上位10〜20件の検索結果をFiDで統合し回答を生成する典型的な構成。
