Mesh LLMは、複数のAIモデルやLLM、AIエージェントをつなぎ、一貫した結果を返すシステムとしてまとめるための企業向けの統合レイヤーです。リアルタイムのマルチエージェント・ルーティング、低遅延の実行、ソブリンクラウドとの相互運用を掲げ、企業のAI基盤づくりを想定して設計されています。

主な機能

  • マルチエージェント・ルーティング: マルチクラウド環境にまたがって複数のモデルへ処理を振り分け、4ミリ秒未満の遅延をうたう
  • トポロジカル・インターコネクト: 接続したAIエージェントやモデル同士が通信・データ交換するノードのメッシュを構築し、全体を監視できる
  • ソブリン・セキュリティ: 細かなセキュリティ制御とガードレールで、データ主権とコンプライアンスを保つ

処理の流れ

入力データを受け取って解析する「Payload Ingest」、タスクに応じて最適なLLMとエージェントの組み合わせを選ぶ「Model Selection」、推論とデータ交換をリアルタイムに調整する「Orchestrated Execution」、結果を集約・検証して1つの出力にまとめる「Consensus Output」の4段階で動きます。

導入と注意点

料金プランは公開されておらず、導入はアーキテクチャチームへの問い合わせから始まります。個人が手元のPCで気軽に試すツールではなく、ベンチマークの相談を含めた企業向けの個別導入が前提です。複数のモデルを組み合わせたAIシステムを自社の管理下で運用したい企業の開発・インフラ担当者に向いています。