Amazon Bedrock、「AgentCore」への移行手法を公開 3つのモデル連携を維持
- Amazon Bedrockの実行基盤へ複数AIモデルを移行できるようになりました。
- 検証用の構成例がすでに公開されており、今すぐ参照できます。
- 複数モデルの運用負担を減らしたい開発者が対象です。
クラウドサービスのAWSは、「Amazon Bedrock」の実行基盤「AgentCore runtime」への移行手法を公開しました。これにより、自前で管理していた複数のAIモデルを、運用の手間を減らした環境へ移せます。
今回の構成では、3つのモデルを1つの管理環境で連携させて動かします。専門的な医療の質問にはAmazon SageMaker AIの特化モデルが対応します。幅広い推論にはAmazon BedrockのLlama 3.1 70B Instructを使い、用途ごとに最適な処理へ振り分けます。知識の検索にはAmazon OpenSearch Serviceを組み合わせて使います。
既存のコードを書き直すことなく、そのまま移行できる仕組みを採用しています。サーバーの伸縮や認証、監視といった運用の管理は実行基盤側が自動で処理します。
これまでインフラの保守に追われていた開発者は、AIの処理ロジックの開発に集中できます。医療や金融、製造業などの分野で、複数のAIを組み合わせた業務処理に活用できます。
ざっくり言うと、専門分野が異なる複数のAIを、専門の管理スタッフ付きの部屋にまとめて引っ越しさせるような仕組みです。これまでは部屋の掃除や警備をすべて自分でこなす必要がありました。今後はそうした雑務をすべて任せて、AIへの指示出しという本来の仕事だけに専念できます。
筆者は、既存のコードを書き直さずに移せる点にかなり感心しました。通常なら実行環境を変えるだけで大幅な手直しが発生します。複数のモデルを束ねる複雑な仕組みをそのまま動かせる設計は、開発者にとって大きな助けになるはずです。
インフラ管理から開発へ。ただ、複数の特化型AIを用途ごとに使い分ける手法は、今後の業務システムで定番の構成になりそうです。
自前でサーバー環境を保守する負担に悩んでいる人なら、この実行基盤に乗り換える価値は十分にあります。年末のAWS re:Inventで、医療以外の業種に向けた具体的な構成例がどこまで発表されるかを見届けたいところです。
複数のAIモデルを自前で運用管理している人は、サーバー保守の手間を省いて業務ロジックの開発に集中できるようになります。
