Modalは、AIの推論、学習、バッチ処理、サンドボックス実行をサーバーレスで動かせる開発者向けのAIインフラプラットフォームです。Pythonのコードの中でロジックからハードウェアまで指定し、そのままクラウドに載せられるため、GPUサーバーを自前で用意・管理せずにAIアプリケーションを本番運用できます。
主な機能
- 推論: LLM、音声、画像・動画生成などのモデルをH100、A100、A10GといったGPUで動かし、リクエストが無い間はゼロまで縮小、需要に応じて瞬時に拡張します。トークンのストリーミングやWebSocket、WebRTCにも対応します
- バッチ処理: 評価、埋め込み、データセット生成などを数千GPU規模で並列に実行できます
- 学習: SFTやLoRAによるファインチューニング、強化学習、並列のハイパーパラメータ探索、最大128基のB200を使うマルチノード学習に対応します
- Sandboxes: 信頼できないコードやAIエージェントを、隔離された使い捨ての環境で大量に動かせます
- 運用: コンテナは即座に起動し、0から1000以上のGPUまで自動でスケールします。関数やコンテナごとのログと可視化機能も標準で備えます
誰に向いているか
GPU推論APIを作るエンジニア、AI機能を運用するスタートアップ、コーディングエージェントや強化学習の実行環境が必要なチームに向きます。SOC2とHIPAAに対応し、チーム管理やデータ所在地の制御も用意されています。
料金
料金は秒単位の従量課金で、予約容量や長期契約は不要です。無料のStarterプランでは毎月$30分の計算資源が使え、チーム向けのTeamプランは月額$250です。
注意点
クラウドでの実行が前提で、コードはModalのSDKに合わせて組む必要があります。使った分だけ課金される仕組みのため、大規模な処理を回す場合は費用の見積もりと管理が欠かせません。
