Portkeyとは
Portkeyは、LLM（大規模言語モデル）の運用をエンドツーエンドで管理するAIゲートウェイ／オブザーバビリティ基盤です。OpenAI・Anthropic・Google・Mistralなど250以上のモデルを単一APIで切り替え、ログ・キャッシュ・コスト管理・ガードレールを統合提供。AIアプリケーションを本番投入する開発チームや、社内で複数LLMを並行運用するSaaS事業者、エージェント基盤を構築するエンタープライズ向けに設計されています。
主要機能
1. AI Gateway（モデルルーティング）: 1行のコード変更で250+モデルを切り替え可能。自動フォールバック、リトライ、ロードバランシングを内蔵し、特定プロバイダ障害時のダウンタイムをほぼゼロに抑制できます。
2. オブザーバビリティ（ログ・トレース）: 40以上のメトリクス（レイテンシ、トークン消費、コスト、エラー率）をリアルタイムでダッシュボード化。デバッグ作業が従来の数時間規模から数分単位に短縮されるケースが多いです。
3. セマンティックキャッシュ: 類似クエリを意味ベースで検出し再利用することで、LLM API費用を最大70%削減した事例が公開されています。
4. ガードレール & Agent Gateway: PII検出、有害コンテンツフィルタ、出力検証を40以上のチェック項目で実装。AIエージェントのガバナンス・監査要件にも対応します。
編集部の検証メモ
公開料金プランを比較検討したところ、DevプランはProof-of-Concept向けで月10,000ログ・$99/月、Proプランは本番運用想定で月100万リクエストまで処理可。Enterpriseはセルフホスト・SOC2・HIPAA対応のカスタム見積となります。競合のAI Gatewayが$99オールインクルーシブなのに対し、Portkeyは$49のプラットフォーム手数料＋プロバイダ実費という構造で、トラフィック規模が大きいほど割安になる設計。月1,000万トークンを使うチームの場合、セマンティックキャッシュとプロンプト圧縮で月$300〜$800規模のAPI費削減が期待でき、エンジニア工数換算で月20〜40時間相当の運用負荷軽減につながると試算できます。OSS版（MITライセンス）も提供されており、データ主権を重視する組織にも選択肢があります。
想定ユーザー
本番環境でLLMを運用する開発チーム、複数プロバイダを横断利用するSaaS事業者、エージェント基盤のガバナンスが必要なエンタープライズに向いています。一方、単一モデル・低トラフィックのプロトタイプ段階や、コードを書かないビジネスユーザーには機能過多で、別途ノーコードツールの方が適切です。
