MLflowは、Linux Foundationの支援を受けるオープンソースのAIエンジニアリングプラットフォームです。AIエージェントとLLMアプリケーションのデバッグ、評価、監視、最適化と、従来の機械学習・深層学習モデルのライフサイクル管理を1つの基盤で扱います。

LLMとエージェント向けの機能

トレース機能はOpenTelemetryを土台にしており、LLMの提供元やエージェントフレームワークを問わず、アプリの動きを記録できます。本番の品質、コスト、安全性も監視できます。評価機能では、50以上の組み込み指標とLLMによる判定を使えるほか、独自の評価も定義でき、品質の推移を追って回帰を本番前に見つけます。トレースをAIで分析して、正確さやレイテンシ、関連性、安全性などの問題を自動で検出する機能もあります。

プロンプトはバージョン管理と系譜の追跡ができ、アルゴリズムによる自動最適化にも対応します。AI GatewayはOpenAI互換の統一インターフェースで、複数のLLM提供元へのルーティング、レート制限、フォールバック、コスト管理を担います。Agent Serverを使えば、FastAPIベースのサーバーでエージェントをコマンド1つで本番公開できます。

機械学習モデル向けの機能

実験の記録、ハイパーパラメータ調整、モデル評価、モデルレジストリとデプロイといった、MLOpsの定番機能がそろっています。

導入と料金

uvx mlflow server でサーバーを起動し、mlflow.openai.autolog() のように数行加えると記録が始まります。Claude CodeやCodexなどのコーディングエージェントにトレース設定を任せるセットアップウィザードもあり、接続先にはDatabricksのワークスペースも選べます。Python、TypeScript/JavaScript、Java、Rに対応し、100以上のツールと連携します。Apache 2.0ライセンスで無料です。自分でサーバーを運用する場合、その環境の費用と保守は利用者側が担います。