DeepInfraは、100万トークン(AIが扱う文字のかたまり)あたり0.02ドルからオープンソースの言語モデルを呼び出せる推論専用のクラウドAPI(他のソフトからAIを呼び出す窓口)です。独自のAIサービスを開発する際、自社で高価なGPUサーバーを用意したり、商業用の独占モデルに高額なAPI利用料を支払い続けたりすることに悩む開発者は少なくありません。

自社運用サーバーの保守負担をゼロにしつつ、商用APIの数分の一から数十分の一の費用で最新オープンモデルを動かす選択肢が整いました。本稿ではDeepInfraの料金設計、専用GPUプランとの損益分岐、OpenAI互換インターフェースを用いた組み込み手順、運用の勘所まで具体的に解説します。


DeepInfraとは?オープンモデル推論に特化したクラウド基盤の基本

DeepInfraとは?オープンモデル推論に特化したクラウド基盤の基本

DeepInfraは、世界中で公開されている主要なオープンソースAIモデルを、従量課金のWeb APIとして即座に実行できる推論特化型のクラウドインフラです。

DeepInfraとは、オープンソースの大規模言語モデル(LLM)を自前でサーバー構築することなく、従量課金で呼び出せる推論APIプラットフォームです。自社でGPUマシンを調達してKubernetesクラスタを組み、モデルの重みをダウンロードしてvLLMなどの推論エンジンをセットアップする一連の重労働を肩代わりしてくれます。

2026年5月にはシリーズBで1億700万ドルの資金調達を実施しました。NVIDIAやSupermicro、Samsung Nextなどが資本参加し、トークン処理ボリュームは前年比25倍の急激な伸長を記録しています。自社専用のGPUフリート(運用機器群)を大規模に確保しているため、突発的なバーストトラフィックに対しても安定した応答速度を維持できる体制を整えています。

利用開始にあたって初期費用や月額の固定基本料金は一切発生しません。ユーザー登録を行ってAPIキーを発行すれば、数分後にはcurlコマンドやPythonスクリプトから190種類以上のモデル群へアクセスできます。テキスト生成にとどまらず、画像認識、音声文字起こし、埋め込みベクトル生成まで、AIアプリケーション構築に必要な処理が一つの窓口に集約されています。

外部のAI基盤を比較検討している方は、DeepSeek社が設計したアーキテクチャの解説であるDeepInferとは?DeepSeekが公開した推論基盤の3つの特徴とGitHubでの使い方も合わせて確認しておくと、推論最適化の仕組みがより明確に掴めます。


編集部のおすすめ

声で文章を入れる、写真を整える、資料を作る。よく使われる作業ごとに1本ずつ選んでいます。

DeepInfraの料金体系はどうなっている?

DeepInfraの料金体系はどうなっている?

DeepInfraの基本料金は、処理したトークン数に応じた完全従量課金制を採用しており、最小契約期間や前払いの縛りはありません。

課金は「入力トークン数」と「出力トークン数」を別々に計算する方式です。軽量なパラメータ数のモデルであれば100万入力トークンあたり0.02ドルという業界最安級の水準から利用できます。さらに月間の支出額が増えるにつれて自動的に上位の料金ティアへ移行し、単価が段階的に引き下げられるボリュームディスカウント設計も導入されています。

次の表は、DeepInfraで公開されている代表的なテキスト生成モデルのAPI利用料金をまとめたものです。

モデル名コンテキスト長入力単価(100万トークン)キャッシュ入力単価(100万トークン)出力単価(100万トークン)
Llama 3.2 3B128k$0.02なし$0.02
Qwen3-14B40k$0.12なし$0.24
Qwen3-30B-A3B40k$0.12なし$0.50
Qwen3-32B40k$0.08なし$0.28
Qwen3-235B-A22B-Instruct-2507256k$0.09なし$0.55
Qwen3-Coder-480B-A35B-Instruct-Turbo256k$0.30$0.10$1.00
DeepSeek V4 Pro128k$1.30$0.10$2.60
Granite 4.2 8B131k (最大512k)公式規定値なし公式規定値

AI PICKS調べ: AIツール全体の有料プラン中央値は月2,850円(n=1,247、2026-10-23時点)。料金統計レポートで見る

つまり、用途に応じて小規模モデルと大規模モデルを使い分けることで、月間のインフラコストを最小限に抑え込めます。

自社サービスの用途がシンプルな分類や抽出であれば、Llama 3.2 3BやQwen3-14Bのような軽量モデルで十分な性能が出ます。月間1,000万トークンを消費したとしても、月額費用はわずか数百円程度に収まる計算です。他方で高度なプログラミング支援や複雑な論理推論を求める局面では、Qwen3-CoderやDeepSeek V4 Proといったフラッグシップ級モデルを呼び出す構成が現実的な選択肢となります。


キャッシュプロンプト割引でコストを削る仕組み

DeepInfraでは、過去に送信したプロンプトと共通する文章ブロックをキャッシュし、2回目以降の入力単価を最大9割以上割り引く仕組みが稼働しています。

RAG(社内資料を読ませて答えさせる仕組み)や長期記憶を必要とするAIエージェントを開発する場合、毎回システムプロンプトや参考文書を丸ごとAPIへ送信します。この重複送信されるプロンプト部分に対して毎回通常単価を支払っていると、入力トークン費用だけで請求額が膨張してしまいます。

DeepInfraのキャッシュ機能は、サーバー側でK-Vキャッシュ(過去の計算結果を保持する一時メモリ領域)を効率よく再利用します。ユーザー側で特別なキャッシュキーを手動管理する必要はありません。同一のプレフィックス(先頭の文章構成)を持つリクエストを送信するだけで、基盤側が自動的にキャッシュの一致を検出し、割安なキャッシュトークン料金を適用します。

たとえば、DeepSeek V4 Proの場合、通常の入力単価は100万トークンあたり1.30ドルですが、キャッシュが効いたトークンは100万あたり0.10ドルまで下がります。割引率は約92パーセントに達します。Qwen3-Coder-480Bでも通常0.30ドルが0.10ドルへと3分の1に圧縮されます。システム指示文を固定し、末尾にユーザーの質問を追加する運用スタイルを徹底するだけで、大幅なコスト削減が実現します。

プロンプトの構成順序を固定化することは、費用抑制だけでなくレイテンシ(応答待ち時間)の短縮にも直結する有効な設計パターンです。


今週のAIニュースを週1回メールで受け取る無料

毎週月曜の朝に、今週のAIの主なニュース・新しく載ったツール・よく読まれた記事をまとめて届けます。登録特典は「AIツール選定チェックリスト 2026」。

確認メールのボタンを押すと登録が完了します。配信はいつでも解除できます。

自前GPUサーバーを借りるより安い?専用GPUとトークン課金の分岐点

DeepInfraはトークン単位のAPI提供だけでなく、サーバー1台丸ごとの「専用GPUデプロイ」を時間単位で貸し出すプランも公開しています。

クラウド上に自前でGPUインスタンスを確保する場合、リクエストが全く来ない深夜帯であっても固定のサーバー代金が発生し続けます。一方でトークン課金APIはアクセスが途絶えれば課金がゼロになるメリットがある反面、1秒間に数十リクエストが常時流れ込む超高負荷環境では、トークン積算額がサーバーレンタル費を上回る逆転現象が起こります。

DeepInfraが提供する専用GPUレンタルの時間単価を整理したのが次の表です。

GPU機種メモリ容量DeepInfra専用レート(1時間あたり)主な適合モデル規模
NVIDIA A10080GB$0.897B〜32Bクラスの単体運用・バッチ処理
NVIDIA H10080GB$2.2070Bクラスの中規模モデル・低遅延運用
NVIDIA B300 (Blackwell)大容量統合メモリ公式レート準拠200B超の大規模MoEモデル・超高スループット

つまり、24時間継続してGPUリソースを消費し続ける大規模プロダクションでない限り、トークン課金のほうが圧倒的に低コストです。

A100 80GBを1か月(730時間)専有稼働させた場合、サーバー費用だけで約650ドル(日本円で約10万円前後)かかります。H100 80GBであれば月額約1,600ドルに達します。自社サービスの月間トークン消費量が数億トークン未満のフェーズであれば、サーバー構築やオートスケーリングの管理コストまで考慮すると、トークン従量課金APIを選択するほうが賢明です。

トラフィックの急拡大に伴って推論キューが常時埋まる段階に到達したチームだけが、専用GPUへの切り替えを検討する運用設計が推奨されます。


DeepInfraで使える主要オープンモデルと選び方

DeepInfraのカタログには190以上のモデルが登録されていますが、実務で選定すべき主力モデルは目的別に数種類へ絞り込めます。

モデルの選定を誤ると、不要なAPIコストを垂れ流す原因になります。テキスト生成モデルは「パラメータ規模」と「得意タスク」のバランスを見極めて決定しなければなりません。コーディング補助、社内文書検索、一般的なカスタマーサポートなど、ユースケースごとに最適な配備モデルは明確に分かれます。

次の表は、DeepInfraで即座に呼び出せる代表的な主力モデルの特性を比較したものです。

モデルシリーズ代表モデル推奨ユースケース特徴と強み
軽量汎用型Llama 3.2 3Bテキスト分類、データ抽出、要約100万トークン$0.02の超低価格、高速応答
バランス型Qwen3-32B社内FAQ、日本語対話、文書作成高い日本語処理能力と安価な単価の両立
コーディング特化型Qwen3-Coder-480Bソースコード生成、リファクタリング、バグ検出巨大MoE構造による高度な論理推論とコード理解
フロンティア級論理推論DeepSeek V4 Pro複雑な意思決定、多段階エージェントタスク128kコンテキスト、高精度な推論性能
長文処理特化型Granite 4.2 8B契約書精読、大規模リサーチ標準131k、最大512kまで対応する長文耐性

つまり、日常的なタスクは32B以下のモデルに割り当て、難度の高い推論だけを上位モデルにルーティングするのが賢い設計です。

開発初期の段階から単一の最上位モデルに依存するのではなく、プロンプトの内容に応じてモデルを振り分けるルーターを配置することで、全体の推論費用を半分以下に圧縮できます。日本語を扱うタスクにおいてはQwen3シリーズの安定感が際立っており、国内向けサービスでも第一候補として挙げられます。


OpenAI互換APIを使った初期セットアップと実装手順

DeepInfraの最大の実装的利点は、業界標準であるOpenAIのAPI仕様と完全な互換性を保持している点にあります。

普段からOpenAIのPython SDKやTypeScript SDKを利用しているエンジニアなら、学習コストほぼゼロで移行作業を完了できます。新規に特殊なクライアントライブラリをインストールする必要はありません。管理画面からAPIキーを取得し、エンドポイントのベースURLを差し替えるだけで、これまでのプログラムコードがそのまま動作します。

まずはPython環境における最も基本的な実装コードの例を確認します。

import os
from openai import OpenAI

# DeepInfraのAPIキーとベースURLを設定
client = OpenAI(
    api_key=os.environ.get("DEEPINFRA_TOKEN"),
    base_url="https://api.deepinfra.com/v1/openai",
)

# チャット補完APIを呼び出す
response = client.chat.completions.create(
    model="Qwen/Qwen3-32B",
    messages=[
        {"role": "system", "content": "あなたは優秀なエンジニアリングアシスタントです。"},
        {"role": "user", "content": "FastAPIでヘルスチェックエンドポイントを作る最小コードを提示してください。"},
    ],
    temperature=0.7,
    max_tokens=512,
)

print(response.choices[0].message.content)

環境変数DEEPINFRA_TOKENに取得したキーを代入するだけでセットアップは完了します。curlコマンドを用いてターミナルから直接テストしたい場合も、次のように手軽にリクエストを投げられます。

curl -X POST "https://api.deepinfra.com/v1/openai/chat/completions" \
  -H "Authorization: Bearer $DEEPINFRA_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen3-32B",
    "messages": [
      {"role": "user", "content": "こんにちは!"}
    ]
  }'

ストリーミング出力(文字が1語ずつ流れるように表示される機能)にも標準対応しています。引数にstream=Trueを付与するだけで、UI上の体感応答速度を高めたチャット画面を素早く構築可能です。

AIによる開発効率化やコード生成の仕組み全体を俯瞰したい場合は、AIコーディングツールの活用カテゴリや最新のAIコーディングツール一覧も参考にしてください。


Difyやノーコードツールと連携して業務自動化を進める手順

DeepInfraは、ノーコードのAIワークフロー構築ツール「Dify」や「LangChain」などの外部エコシステムともスムーズに接続できます。

自社でプログラムを書かない非エンジニア組織であっても、GUI画面からDeepInfraのモデルを呼び出す環境を整えられます。特にDifyは標準でDeepInfraのプロバイダ設定を内包しているか、あるいは汎用のOpenAI互換プロバイダとしてURLを登録するだけで利用可能です。

連携時の基本的な手順は次の通りです。

  1. DeepInfraのダッシュボードへログインし、API Tokensページからシークレットトークンを発行する。
  2. Difyの設定画面(設定 > モデルプロバイダー)を開く。
  3. プロバイダー一覧から「DeepInfra」を選択するか、もしくは「OpenAI API-compatible」を選択する。
  4. APIキー入力欄に発行したトークンを貼り付け、API Base URLに https://api.deepinfra.com/v1/openai を指定する。
  5. 利用したいモデル名(例: Qwen/Qwen3-32B)を追加登録して接続テストを実行する。

ノーコードツール側で従量課金の安価なモデルを登録しておけば、社内PoC(実証実験)で大量のプロンプトテストを実行しても利用料金が跳ね上がる心配がありません。

Difyを用いた業務自動化の全体像や料金プランの分岐点については、Difyとは?月59ドルの分岐点と無料枠200回の制限まとめ (2026年版)やDifyの使い方と始め方を徹底解説したガイドで詳しく取り上げています。ノーコードによる自動化基盤の選定には、AI自動化ツールカテゴリの比較情報も役立ちます。


長文処理におけるコンテキスト制限とレスポンス遅延の注意点

長大なドキュメントを読み込ませる際は、モデルごとのコンテキストウィンドウ上限と、文章の中盤情報が脱落する現象に注意を払う必要があります。

DeepInfraでホストされているモデルは、それぞれ処理できるトークンの最大長が異なります。Qwen3-32Bは40kトークン、Qwen3-Coderは256kトークン、Granite 4.2 8Bは131k(拡張時最大512k)といった差異が存在します。許容量を超えるテキストを一括送信するとエラーでリクエストが弾かれるため、事前のトークン数計算が欠かせません。

また、コンテキスト長に余裕があるモデルであっても、数万トークンに及ぶ長文の中央付近に書かれた記述をAIが見落としてしまう現象が工学的に知られています。この問題は「lost in the middle」と呼ばれ、プロンプトの先頭と末尾に重要な指示を配置するなどの構造的対策が必須となります。

長文プロンプトの設計ノウハウについては、lost in the middleとは?長文コンテキストで中盤の情報が無視される原因と3つの対策で詳細な回避策を提示しています。

さらに、一度に数万トークンの入力を送り込むと、GPU側の事前計算(Prefill処理)に数秒から十数秒の待機時間が発生します。リアルタイムチャットのユーザーインターフェースに組み込む場合は、タイムアウト時間を長めに設定しておく運用配慮を忘れてはなりません。


セキュリティ認証とデータ保護の運用体制

法人環境で推論APIを選定するにあたり、最も厳格にチェックされるのがセキュリティ認証と入力データの取り扱いです。

DeepInfraはエンタープライズ向けの運用基準を満たすため、独立した監査機関による複数の第三者認証を取得しています。具体的には、内部統制とデータセキュリティを証明するSOC 2 Type II、情報セキュリティマネジメントの国際標準であるISO 27001、さらに米国医療情報の保護基準であるHIPAAに準拠しています。

API経由で送信されたプロンプトデータや生成結果は、モデルの追加再学習には使用されません。クラウド上でのデータ保持期間についても最小限に制限されており、機密情報や個人データを含む社内ワークフローへの組み込みに適した規約設計となっています。

通信経路はすべてTLSにより暗号化され、専用GPUプランを利用すれば他社テナントと物理ハードウェアを共有しない完全な論理・物理分離環境の構築も可能です。セキュリティを最重視する法人は、社内のセキュリティ要件定義書とDeepInfraのコンプライアンスドキュメントを突き合わせ、AIセキュリティ対策カテゴリの基準と照合しながら承認フローを進めてください。


他の推論プロバイダと何が違う?Modalや大手クラウドとの住み分け

オープンモデルを動かす選択肢はDeepInfraだけに留まりません。サーバーレスGPU基盤のModalや、RunPod、AWS Bedrockなど多様なサービスが競合しています。

選定の要は「カスタムコードを実行したいか」それとも「既製モデルを即座にAPIで叩きたいか」というアーキテクチャの違いにあります。

Modalなどのサーバーレスコンテナ基盤は、Pythonコードをクラウド上で自由に実行し、独自にファインチューニングした特殊なモデルのデプロイやバッチジョブ、コード実行サンドボックス環境の構築に無類の強さを発揮します。しかし、インフラ構築の手間やコールドスタート(未起動インスタンスが立ち上がるまでの待機時間)の管理が開発者に委ねられます。

これに対してDeepInfraは、すでに最適化されたvLLM等の推論スタック上に190種以上の著名モデルを常時プールしています。インフラのコードを一切書くことなく、URLとAPIキーだけで即座に秒間数百リクエストの推論をこなす用途では、DeepInfraの手軽さとコストパフォーマンスが際立ちます。

自社独自の重みデータを細かく改造してサービングするならModal、標準的なオープンモデルを最安値で安定運用するならDeepInfraという棲み分けが合理的です。


AI PICKS編集部の判定

DeepInfraに対する当編集部の評価は、オープンモデルを本番運用するバックエンドとして「コスト最優先なら文句なしの一択」という結論です。

100万入力トークンあたり0.02ドルからという料金設定は、大手クラウド事業者が提供する類似モデルのAPI単価と比較しても破格の水準です。プロンプトキャッシュを前提にした設計を組めば、毎月の請求書を見てその安さに驚くことになります。インフラの初期構築やGPU調達の営業交渉に時間を溶かすことなく、即日で本番環境をスケールさせられる俊敏性は開発チームにとって大きな武器です。

ただし、手放しで全案件に推奨できるわけではありません。独自データで事後学習した重みを頻繁に入れ替えるような実験的プロジェクトでは、サーバーレスコンテナ型の基盤に比べて小回りが利かない点が正直イマイチです。また、管理画面の機能は極めてシンプルに削ぎ落とされているため、きめ細かなユーザー権限管理や複雑な請求ダッシュボードを求める大企業では、ラッパー層の自社開発が必要になります。

標準的なオープンモデルを大量に消費するAPIバックエンドを探しているなら、検討の最優先候補に置くべきサービスです。


よくある質問(FAQ)

Q. DeepInfraの支払いに日本のクレジットカードは使えますか?

使えます。管理画面のBilling設定からVisa、Mastercard、American Expressなどの主要な国際ブランドのクレジットカードを登録して支払いが可能です。利用実績に応じた米ドル建ての決済となります。

Q. APIのレート制限(リクエスト上限)はどのくらい厳しいですか?

従量課金のアカウントであれば、一般的な開発や中規模サービスのトラフィックには十分耐えうるレート制限がデフォルトで設定されています。短時間に数千リクエストを超えるような大規模なバーストが見込まれる場合は、サポート窓口へ連絡することで上限緩和申請を行えます。

Q. 独自にファインチューニングしたカスタムモデルをアップロードして動かせますか?

DeepInfraは基本的にカタログに登録されたモデルを動かす推論プラットフォームです。独自の重みファイルを自由に持ち込んでカスタム環境を走らせたい場合は、時間貸しの専用GPUインスタンスを利用するか、ModalのようなサーバーレスGPUプラットフォームの利用を推奨します。

Q. APIのレスポンス速度(レイテンシ)は実用レベルですか?

十分に実用的です。最適化された推論エンジンと専用のGPUフリートによって低遅延なレスポンスが維持されています。ただし、数万文字に及ぶ巨大なプロンプトを一度に送信した場合は、Prefill計算のために初回トークン生成までに数秒の時間を要することがあります。

Q. 送信したプロンプトデータがAIの学習に使われる心配はありませんか?

ありません。DeepInfraの利用規約およびプライバシーポリシーにより、API経由で送受信されたデータがモデルの追加学習に転用されることはないと明記されています。SOC 2やHIPAAといった各種セキュリティ認証にも準拠しています。


あわせて見たいツール・カテゴリ

AI推論基盤の導入や業務プロセスの高度化を検討する際は、連携可能なツール群や関連カテゴリの情報収集が不可欠です。目的に応じて以下のリソースも併せて活用してください。

推論APIを単独で使うだけでなく、ワークフロー自動化基盤と組み合わせることで開発速度を飛躍的に高められます。まずはDifyの使い方と料金を整理した解説記事を一読し、GUI環境からのモデル接続手順を試してみるアプローチをおすすめします。


参考にした一次情報

記事の事実関係は、次の公式ページで確認しています。仕様や料金は変わることがあるため、最新の内容は各ページで確かめてください。