DeepSeekの発表内容

DeepSeekは、自社サービスで運用している推論基盤（AIモデルを動かして回答を出力させるソフトウェア環境）の「DeepInfer」をGitHub上で公開しました。ソースコードは「Apache License 2.0」のもとで配布されています。

対応モデルは「DeepSeek-V4.1-Flash」です。動作環境として、Linux環境のほか、NVIDIAの「SM100」GPUやファーウェイの「Ascend 950」NPUに対応します。計算処理を効率化する各種カーネルや、出力結果を一定にするサンプリング機能、JSON形式などで出力を固定する機能を備えています。

今回の公開範囲はオフライン推論が中心です。完全な推論サービスを組む際に必要なキャッシュ機構や負荷分散の仕組みは、別途用意する必要があります。

大規模なAI運用基盤を自前で構築している組織は、本基盤の構成を取り入れることで、計算コストや消費電力の削減に役立てられます。

次に読む

つまり、どういうこと？

ひらたく言うと、DeepSeekが自社の巨大なAIサービスを裏側で動かしている「エンジンの設計図」を、誰でも自由に使える形で無償公開したということです。

AIを自前のサーバーで動かすには膨大な計算資源と電気代がかかります。今回のソフトウェアを使うことで、同じ機械でも無駄なく効率よくモデルを動かせるようになります。

編集部の見方

最先端モデルの重みだけでなく、本番の大規模運用で鍛えた推論エンジンまで惜しげもなく公開してきた点には、かなり驚きました。自社の内部スタックをまるごと渡す姿勢は大胆です。

インフラの開放。

ただ、今回の公開分だけでは即座にWebサービスとして完結するわけではありません。キャッシュ管理や負荷分散など、本格的な運用には自前で補うべき部品がまだ残っています。使いこなすには相応の技術力が必要になりそうです。それでも、自前でサーバー群を抱える企業にとっては有力な選択肢になると思います。

今後は、未提供の周辺機能がどのペースで追加されるのか、年内のコミット履歴を追っていきたいところです。

誰に関係するか

自社サーバーでDeepSeekのモデルを運用している人は、本番環境向けの推論基盤を取り入れて計算コストを抑えられるようになります。

出典: GitHub ↗