Arize AIは、AIエージェントやLLMアプリの観測（オブザーバビリティ）と評価のためのプラットフォームです。本番のリクエストごとにエージェント内部で何が起きたかをトレースとして記録し、評価にかけ、プロンプトやワークフローの改善につなげます。

製品構成

マネージド版の「Arize AX」と、オープンソースの「Phoenix」の2本立てです。Phoenixはローカルや自社環境でホストでき、LLMの呼び出しをトレースして評価を実行し、失敗の原因を調べられます。Arize AXは同じオープン標準の上に、生成AIのトレース専用データストア「adb」、本番トラフィックに対するオンライン評価、継続的な改善の仕組みを加えた製品です。アプリ内のAIエージェント「Alyx」に評価の実行や問題の調査を任せることもできます。

対応環境

OpenTelemetryを土台にした「OpenInference」の規約で計測するため、独自形式に縛られません。OpenAI、Anthropic、Google、Amazon Bedrock、LangGraph、LangChain、LlamaIndex、CrewAI、DSPyなどと連携し、Google Cloud、AWS、Azure、自社ホスト環境で使えます。SOC 2 Type II、ISO 27001、HIPAA、GDPRに対応しています。

料金

AX Freeは無料で、月25kスパン、1GB、保持15日まで使え、評価の回数とユーザー数は無制限です。AX Proは月$50で、月50kスパン、10GB、保持30日に広がります。大規模向けにはセルフホストも選べるAX Enterpriseがあります。

注意点

画面と資料は英語で、トレースを送るための計測コードの組み込みが必要です。