定義
LiteLLMとは、OpenAIやAnthropicなど複数のLLMプロバイダーのAPIをOpenAI互換の単一インターフェースに統一して呼び出せるオープンソースのLLMプロキシ・統合APIのこと。
LiteLLM (LLMプロキシ・統合API)とは（詳しく解説）
LiteLLM(LLMプロキシ・統合API)とは、OpenAIやAnthropic、Google、AWS Bedrockなど100以上のLLMプロバイダーへのAPIコールをOpenAI互換フォーマットの単一エンドポイントに集約し、コード変更なしでモデル切り替えやフォールバックを可能にするオープンソースのミドルウェアを指すとされる。SDKまたはプロキシサーバーとして導入でき、複数チームが乱立したAPIキー管理やコスト計測を一元化する用途で広く採用されている。2026年時点の実運用では、キャッシュやレート制限、リクエストごとのコスト集計機能を使ってLLM費用の相場感を可視化する現場が増えている一方、プロバイダー側のAPI仕様変更への追従が遅れると互換レイヤーが壊れ、本番障害につながる落とし穴がある。また自前ホスティングの場合はプロキシ自体の可用性・レイテンシがボトルネックになりやすく、トラフィック量に応じてマネージドのLiteLLM ProxyとOSS版のどちらを選ぶかが現場でのコスト最適化の分かれ目になる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます（CC BY 4.0）。
出典: AI PICKS AI用語辞典「LiteLLM (LLMプロキシ・統合API)とは」 https://aipicks.jp/glossary/litellm
LiteLLM (LLMプロキシ・統合API)の使用例
- 複数の生成AIツールを同じ社内APIキー管理画面から呼び出し、モデルごとのコストをダッシュボードで一元管理する。
- Anthropic APIが障害時に、LiteLLMのフォールバック設定でOpenAIのモデルへ自動切り替えする。
