Cloudflare Workers AIは、Cloudflareが提供するAIモデルのサーバーレス推論サービスです。Cloudflareのネットワーク上のGPUでモデルを動かすため、GPUの調達やスケーリング、使っていない設備の費用を気にせずにAI機能を組み込めます。

主な機能

モデルカタログには50以上のオープンソースモデルがあり、テキスト生成、画像分類、物体検出などに使えます。Llama、Stable Diffusion、Mistralといったモデルも選べます。呼び出しはWorkersやPagesのコードから行うほか、Cloudflare APIを使えばどこからでも実行できます。ベクターデータベースのVectorize、データ保存のR2、AIアプリを監視・制御するAI Gatewayと組み合わせ、RAGチャットボットや関数呼び出しで動くAIエージェントを1つの基盤上で作れます。推論はユーザーに近い都市で自動的に実行されます。

料金

Workers AIはWorkersの無料プランと有料プランの両方に含まれ、1日10,000 Neuronsまでは無料です。それを超えて使うにはWorkers Paidプランが必要で、超過分は1,000 Neuronsあたり$0.011です。NeuronはGPUの計算量を表す独自の単位で、モデルごとにトークン単価も併記されています。上限は毎日UTCの0時にリセットされます。

注意点

一部の大型モデルは無料枠では使えず、有料の支払い方法が必要です。日本語の製品紹介ページはありますが、技術ドキュメントは英語が中心です。