Mistral AI、1兆パラメータの「Mistral Large 4」重みを公開　トークン消費を最大47%削減

本ページはプロモーションを含みます（掲載基準）

画像: mistral.ai 公式

結論（先に3行）

1. Mistral AIが「Mistral Large 4」のモデル重みを公開しました。2. 追加費用なしで自社環境に導入でき、本日より利用できます。3. 自社でAI環境を運用し、開発や防御セキュリティに使う企業が対象です。

Mistral AIは、1兆パラメータのAIモデル「Mistral Large 4」の重みを公開しました。3週間の追加強化学習を経て、プログラム作成や防御目的のサイバーセキュリティ処理の性能を高めています。

プログラム作成の指標では、先行する同水準のモデルに比べて作業ごとのトークン (AIが扱う文字の単位) 消費量を平均47%削減しました。端末での操作を測るベンチマークでも、出力トークンを30%減らしながら41%のスコアを記録しています。処理の負荷に応じて選べる3つの推論モードも備えました。

自社サーバーでの運用に対応し、セキュリティ対策の用途にも対応します。欠陥の検出や修正を行うテストで51%を記録したほか、悪意のある攻撃要求への拒絶率は96.6%に達しました。

ひらたく言うと、設計図をまるごと配る形の超大型AIです。他社のクラウドに社内データを預けず、自社のパソコンやサーバーの中だけで最高クラスの頭脳を動かせます。

頭の使い方の無駄を省いたため、同じ作業をこなす際にかかる計算の負担がほぼ半分になりました。重い作業でも電気代やサーバー代を抑えて動かせます。

自社で抱える巨大モデル。

1兆パラメータという途方もない規模のモデルを、外部のクラウド任せではなく手元で動かせる点はかなり重宝しそうです。特にセキュリティ業務では外部に出せないデータを扱うため、社内だけで完結できる価値は小さくありません。

ただ、この規模を自前のサーバーで動かすとなると、必要になる機材の費用は相当な負担になりそうです。まずは3段階ある推論モードのLowやMediumを試し、実務に耐える軽さかどうか見極める運用が現実的だと思います。冬に登場する各社の小型モデルとどちらが実務向きか、動作環境の要件を見比べたいところです。

自社サーバーでAIを運用している担当者は、処理費用を抑えながらプログラム作成やシステムの安全点検を行えるようになります。