本ページはプロモーションを含みます(掲載基準)
Lost in the Middle (中間情報の見落とし)の定義
Lost in the Middle(ロストインザミドル)とは、LLMに長い文章を渡したとき、冒頭や末尾にある情報はよく使えるのに、真ん中にある情報ほど見落としやすくなる現象のことです。2023年にスタンフォード大学などの研究者が報告しました。
- 出典論文
- Lost in the Middle: How Language Models Use Long Contexts(Nelson F. Liuら、2023年7月arXiv公開、TACL 2024年掲載)
- 研究機関
- スタンフォード大学、カリフォルニア大学バークレー校、Samaya AI
- わかったこと
- 正解の情報が入力の最初か最後にあると精度が高く、真ん中にあると大きく下がる。位置と精度のグラフがU字型になる
- 検証したタスク
- 複数文書からの質問応答と、キーと値の検索。GPT-3.5-TurboやClaude-1.3など長文対応モデルでも起きた
- 論文が示した対策の方向
- 関連する文書を入力の先頭近くに並べ替える、渡す文書の数を絞る
Lost in the Middle (中間情報の見落とし)とは(詳しく解説)
Lost in the Middleは、LLMに長い文章を渡したとき、真ん中にある情報ほど使われにくくなる現象です。2023年7月、スタンフォード大学やカリフォルニア大学バークレー校などの研究者が論文で報告しました。論文は2024年に学術誌TACLに掲載されています。 研究では、複数の文書から答えを探す質問応答と、キーと値を探すタスクで実験しました。正解が書かれた文書を入力の最初や最後に置くと精度が高く、真ん中に置くと大きく下がりました。位置ごとの精度をグラフにするとU字型になります。GPT-3.5-TurboやClaude-1.3のような、長い文章に対応したモデルでも同じ傾向が出ました。 この結果は、RAG(社内資料などを検索して答えさせる仕組み)の設計に直結します。論文では、検索した文書を20件から50件に増やしても、精度はわずかしか上がりませんでした。たくさん詰め込めば賢くなるわけではない、ということです。論文は対策の方向として、関連する文書を先頭近くに並べ替えることと、渡す文書の数を絞ることを挙げています。 実務では、重要な指示や資料を冒頭か末尾に置くのが基本です。長いPDFを丸ごと渡すより、必要な部分を抜き出して渡す方が、答えの精度は安定しやすくなります。
Lost in the Middle (中間情報の見落とし)を調べた人に
ChatGPT・
複数のAIに同じ質問をして答えを比べたり、講座で使い方を体系立てて学んだりできます。


初月10ドルオフ(新規ユーザー)
ChatGPTやClaudeへの長い指示を、打たずに声で入力できる。日本語にも対応し、Mac・Windowsのどのアプリでも使える(無料は1,000語まで)
AI音声・文字起こし / 最低料金 ¥0〜

Lost in the Middle (中間情報の見落とし)のよくある質問
Q. Lost in the Middleはなぜ起きるのですか?
論文は原因を1つに断定していません。ただ、モデルが入力の最初(初頭効果)と最後(新近効果)を重視しやすい傾向があることを示しています。指示調整をしていないベースモデルでも同じU字型の傾向が見られました。
Q. Lost in the Middleの対策は?
大事な情報を入力の先頭か末尾に置くことです。RAGでは、検索結果を関連度順に並べ替えて上位に寄せ、渡す件数を絞ると効果が期待できます。論文でも、文書を20件から50件に増やしても精度はほとんど上がりませんでした。
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「Lost in the Middle (中間情報の見落とし)とは」 https://aipicks.jp/glossary/lost-in-the-middle
Lost in the Middle (中間情報の見落とし)の使用例
- 100ページのPDFを丸ごと投入すると、中盤に書かれた重要な数値をLLMが見落とし誤った回答を返すことがある。
- RAGで検索結果を上位20件そのまま渡すより、上位5件に絞り重要情報を先頭に配置した方が回答精度が上がる。
Lost in the Middle (中間情報の見落とし)に関連するAIツール
Lost in the Middle (中間情報の見落とし)の関連記事
Lost in the Middle (中間情報の見落とし)の関連用語
12カテゴリ・1834語以上を体系的に整理しています
