Claudeの発表内容
「Claude」などのエージェントがコード実行環境を介してツールを動かすことで、無駄な通信を削減します。
これまでの方式では、接続するすべてのツールの定義を事前にコンテキスト (AIが一度に記憶できる情報枠) へ読み込む必要がありました。さらに、ツールの実行結果もAIの枠内を通過するため、2時間の会議録を転記する処理では5万トークン (文字数の単位) が余分に消費されていました。
新方式では、ツール群をコードのAPI (プログラム同士をつなぐ窓口) としてファイル形式で整理します。エージェントは必要なファイルだけを読み込み、データの受け渡しも実行環境の中で直接完結させます。
Google Driveの議事録をSalesforceへ転記するような自動連携で、AIの処理遅延や転記ミスを防げます。数百から数千のツールを束ねる環境でも、情報量の上限による停止を気にせず複雑な業務を任せられます。
つまり、どういうこと？
ざっくり言うと、AIに道具箱の全道具の説明書を丸暗記させるのをやめて、作業台の上でプログラムに直接道具を操作させる仕組みです。
たとえるなら、議事録の全文をAIが一度声に出して読み上げてから別ソフトに打ち直すのではなく、裏方のロボットにコピペを任せる形に変えました。これにより、AIの頭のメモリを余計なデータで圧迫せずに済みます。
編集部の見方
ツールを登録するだけで枠を圧迫していた実態に、筆者は運用の難しさを感じました。実務では切実です。これまではモデルの賢さばかり競われていましたが、現場の運用費を削る上ではこうした通信の効率化が重宝されます。
ただ、ツールが増えるほど利用料金が跳ね上がる問題に直面していた企業なら、このコード実行方式への切り替えはかなり有力な選択肢になります。2時間の会議録で5万トークンも浮くのであれば、月間の差額は無視できません。競合各社のエージェント基盤も、数か月で同じ仕組みを取り入れそうです。
今後は、2024年11月に公開されたMCPの仕様が、コード実行を前提とした形へいつ正式改定されるかを注視したいところです。
誰に関係するか
多数の業務ツールをAIエージェントに連携させている人は、トークン消費と処理遅延を抑えて安定したデータ転記を行えるようになります。
出典: Anthropic ↗
