Nemotron 3.5 Boltは、NVIDIAが開発したローカル環境向けの小型ビジョン言語モデル（VLM）です。高性能なGPUサーバーを用意することなく、一般的なノートPC上で画像認識とテキスト推論、外部ツール呼び出しを同時にこなします。出先での作業やクラウドへのデータ送信が禁じられている現場で、手軽に扱える軽量AIの選択肢に悩んでいませんか。
これまで画像理解や高度な推論を伴うAIモデルは、数十GBから数百GBのビデオメモリを要求するものが大半でした。軽量モデルと呼ばれるものでも、テキスト処理に特化していたり、ツール利用の精度が実用に耐えなかったりする弱点がありました。
Nemotron 3.5 Boltはその常識を打ち破ります。わずか4GB前後のフットプリントで動作するバリアントが用意され、ローカルLLM実行基盤であるOllamaを通じてすぐに試せます。長大な128Kコンテキストを保持しつつ、手元のPC内でプライバシーを守りながら動かせる仕組みが整いました。
Nemotron 3.5 BoltとはどんなAIモデル？
Nemotron 3.5 Boltは、ローカル環境での会話や画像理解、外部ツールの実行に最適化されたNVIDIAの小型オープンウェイトモデルです。大型基底モデル「Nemotron 3.5 Super VL」の推論能力を受け継ぎながら、ノートPCや組み込みデバイスで動く規模へ圧縮されています。
Nemotron 3.5 Boltとは、NVIDIAが設計したノートPCやエッジ機器向けの軽量ビジョン言語モデル（VLM）です。
近年のAI活用は、API経由でクラウドに接続する形態が主流でした。しかし通信の遅延や利用料金の増大、機密情報の漏洩懸念から、端末側で処理を完結させるエッジAIへの需要が急速に高まっています。Nemotron 3.5 Boltは、そうしたエッジ運用の課題を解消する目的で設計されました。
対象となるユースケースは多岐にわたります。画面のスクリーンショットを読み取って操作を代行するPCアシスタント、カメラ映像をリアルタイムに解釈して行動する小型ロボット、手元のPDF資料を読み込んで分析するローカルエージェントなどです。
テキストの読み書きだけでなく、図表や写真の構造を読み解く視覚能力を備えています。さらにAPIや関数を呼び出す「ツールコーリング」の機構が組み込まれており、単なるおしゃべり相手にとどまらない自律的なタスク処理が可能です。
編集部のおすすめ
ローカルLLMを
大きなモデルほどメモリやVRAMが要ります。統合メモリの多いミニPCや、GPU搭載のデスクトップが候補です。
GMKtec（ミニPC）Ryzen AI搭載で統合メモリの大きいミニPCがあり、机の上に置ける大きさでローカルLLMを動かせる
ミニPC ／ Ryzen AI搭載モデルあり（価格は公式ストアで確認）
FRONTIER（BTOパソコン）GeForce RTX搭載のデスクトップを構成を選んで買える。VRAMの大きいGPUも選べる
BTOパソコン ／ GeForce RTX搭載モデルあり（構成と価格は公式で確認）
Lenovo（レノボ公式ストア）GPU搭載のノートやデスクトップを公式ストアで構成を選んで買える
パソコン（公式オンラインストア） ／ 構成と価格は公式ストアで確認
4GBサイズで動作するE4Bモデルの基本スペック
Nemotron 3.5 Boltには複数の構成が存在し、もっとも注目を集めるのが約4GBのメモリ領域で動作する「E4B」バリアントです。
日常使いのノートPCや小型端末でも無理なく読み込める軽量化が施されています。
次の表は、Nemotron 3.5 Bolt E4Bの主要なスペックを整理した一覧です。
| 項目 | スペック・ |
|---|---|
| モデル種別 | 小型ビジョン言語モデル（VLM / Reasoning対応） |
| 必要メモリ目安 | 約4GB（VRAMまたはユニファイドメモリ） |
| 入力モダリティ | テキスト、画像 |
| 出力モダリティ | テキスト |
| コンテキスト長 | 128K〜131Kトークン（A4用紙約200ページ相当） |
| 主要機能 | 画像理解、思考プロセス（推論）、ツール利用（Tool Calling） |
| 提供形態 | オープンウェイト（Ollama、GGUF等で配布） |
つまり、Nemotron 3.5 Bolt E4Bは低スペックな個人端末でも長文資料や画像の解析を可能にする高密度なモデルです。
128Kトークン（約131,000トークン）という広大なコンテキストウィンドウは特筆すべき点です。小型モデルの多くは計算資源の制約から、コンテキスト長を4Kや8K程度に制限するケースが目立ちました。Boltは小型でありながら、長文のマニュアルや複数の高解像度画像を一度にコンテキストへ保持できます。
さらに推論（Reasoning）プロセスを出力する機構を備えています。問いに対して結論を即答するのではなく、内部で思考の筋道を組み立ててから出力するため、論理破綻や誤答を抑える設計です。
Hybrid LatentMoEとMamba-2がもたらす構造の特徴
Nemotron 3.5 Boltの驚異的な軽さと処理速度は、独自のアーキテクチャ設計によって支えられています。
State Space Model（SSM）の一種であるMamba-2と、必要な専門層だけを動かすMixture-of-Experts（MoE）を組み合わせた「Hybrid LatentMoE」構造を採用しています。
上位バリアントである「Nemotron-3.5-Bolt-74B-A9B」では、総パラメータ数74B（740億）のうち、1回の推論で実際に稼働するアクティブパラメータを9B（90億）に抑えています。これにより、巨大モデル並みの知識容量を確保しながら、計算負荷を小型モデル並みに低減させました。
推論処理における計算量とメモリ消費の推移を抑えるため、従来のAttention層に加えてMamba-2層を配置しています。トークン数が増加しても計算コストが急激に跳ね上がらない特性があり、128Kトークンの長文処理を軽快に実行できます。
量子化技術の工夫も見逃せません。NVIDIA公式やコミュニティによる最適化では、MoEのエキスパート層に2.06ビット前後の極めて高効率な量子化（IQ2_XXSなど）を適用しています。一方で精度に直結するMamba層にはNVFP4、出力ヘッドにはQ8_0を割り当てるなど、層ごとにビット精度を細かく制御しています。全体の容量を劇的に削りながら実用精度を維持する工夫の結晶です。
毎週月曜の朝に、今週のOllamaのニュースとアップデートを先頭に、AI全体の主なニュースと新しく載ったツールをまとめて届けます。登録特典は「AIツール選定チェックリスト 2026」。
確認メールのボタンを押すと登録が完了します。配信はいつでも解除できます。
なぜローカル環境で画像理解とツール呼び出しが両立するのか？
小型モデルでありながら、画像の正確な読み取りと外部ツールの呼び出しを高い安定度でこなせる点にBoltの真価があります。
従来の軽量オープンモデルでは、視覚認識のエンコーダーを載せるとパラメータが圧迫され、関数の引数をJSON形式で出力するような複雑な命令追従が乱れがちでした。
Boltはこの課題を、教師モデルからの蒸留と厳格なファインチューニングで克服しました。基底モデルであるNemotron 3.5 Super VLが持つ「表、グラフ、スキャン文書の解析能力」を、無駄な出力を削ぎ落とす学習によって小型モデルへ移植しています。余計な前置きを出力せず、必要な処理だけを返す無駄のなさが特徴です。
外部ツール呼び出しにおいても、指示されたスキーマを忠実に再現します。たとえば「この画像を読み取って、写っている商品の価格を計算ツールに渡して」という複数ステップの指示に対しても、画像内の文字を拾い上げて正確なパラメータを組み立てます。
完全ローカルで動くため、業務システムの社内データベース検索やローカルファイルの自動整理といった用途に安心して組み込めます。社外のクラウドサービスへ顧客データや契約書のスクリーンショットを送信する必要が一切ありません。
Ollamaを使ったNemotron 3.5 Boltの導入手順
オープンモデルの実行環境として広く普及しているOllamaを使えば、Nemotron 3.5 Boltをわずか数分で導入できます。
手動で複雑なPython環境を構築したり、CUDAライブラリの設定に頭を悩ませたりする必要はありません。
手順1: Ollamaのインストール
まずは端末にOllamaが導入されているか確認します。まだインストールしていない場合は、公式サイトから各OS向け（macOS、Windows、Linux）のインストーラーを取得してセットアップを完了させます。
ターミナルまたはPowerShellを開き、次のコマンドでバージョンが表示されれば準備完了です。
ollama --version
手順2: モデルのダウンロードと実行
OllamaのライブラリにNemotron 3.5 Boltが追加されたことで、runコマンドひとつでモデルの取得から対話画面の立ち上げまで自動で進みます。
ollama run nemotron-3.5-bolt:e4b
コマンドを実行すると、約4GBのモデルファイルが手元のストレージにダウンロードされます。回線速度にもよりますが、数分でダウンロードが完了し、ターミナル上に対話プロンプトが表示されます。
ターミナルとデスクトップ環境での実行コマンドと動作確認
Ollamaの対話インターフェースが起動したら、実際にテキストと画像を投入して動作を確かめます。
動作確認は、テキストのみの対話テストと画像を含めたマルチモーダルテストの2段階で進めるのが確実です。
テキスト推論のテスト
プロンプトに対して、論理的な回答がスムーズに返ってくるかテストします。
>>> 日本の主要な祝日とその由来について、簡潔に3つ箇条書きで教えてください。
Boltは推論プロセスを整理しながら、数秒で的確な箇条書きを出力します。無駄な挨拶や修飾語を省いた素早いレスポンスが返ってくれば、テキスト推論は正常に機能しています。
画像入力のテスト
Ollamaでは、画像の絶対パスをプロンプト内に含めることで画像を認識させられます。
>>> /Users/username/Desktop/chart.png このグラフが示している売上の推移とピーク月を教えてください。
画像内の軸ラベルや凡例、数値データを的確に認識し、グラフの要点を整理して出力します。表組みの書類や手書きメモの画像でも高い認識精度を誇ります。
API経由での呼び出しテスト
Ollamaはバックグラウンドでローカルサーバー（通常ポート11434）を起動しています。PythonスクリプトやcurlコマンドからAPIとして呼び出すのも容易です。
curl http://localhost:11434/api/generate -d '{
"model": "nemotron-3.5-bolt:e4b",
"prompt": "ローカルエージェントの利点を1行で述べてください。",
"stream": false
}'
外部の自作スクリプトや業務ツールと手軽に連携できるため、ローカル特化型の自動化パイプラインを即座に構築できます。
Nemotron 3.5 Boltの必要スペックと推奨ハードウェア
Nemotron 3.5 Boltを実用的な速度で動作させるためには、マシンのハードウェア構成を事前に把握しておく必要があります。
軽量なE4Bモデルであれば一般的なPCで動きますが、上位モデルや長文コンテキストを扱う場合は要求水準が上がります。
次の表は、Nemotron 3.5 Boltを動かす際の必要環境と推奨環境をまとめた表です。
| 構成要素 | E4B | 74B-A9B |
|---|---|---|
| プロセッサ | Intel Core i5 / AMD Ryzen 5 / Apple Silicon M1以降 | Apple Silicon M2/M3/M4 MaxまたはハイエンドPC |
| メモリ（RAM） | 8GB以上（16GB推奨） | 32GB以上のユニファイドメモリまたはメインRAM |
| GPU / VRAM | VRAM 4GB〜6GB以上（CPUのみでも低速動作可） | VRAM 16GB〜24GB以上（RTX 4090等）またはMac共有メモリ |
| ストレージ空き | 10GB以上のSSD空き容量 | 30GB以上の高速NVMe SSD空き容量 |
| 主な用途 | 手元での簡易画像QA、定型ツール呼び出し | 複雑なビジネス文書解析、マルチステップエージェント |
つまり、日常的なタスクであればメモリ16GBを積んだ一般的なノートPCで十分に快適な動作が得られます。
Apple Siliconを搭載したMacBookであれば、CPUとGPUがメモリを共有するユニファイドメモリ構造の恩恵を最大限に受けられます。M2やM3チップを積んだ16GB構成のMacであれば、E4Bモデルは驚くほど静かに、かつ高速にトークンを生成します。
一方で74B-A9Bなどの大型バリアントを動かす場合は、32GB以上のメモリが必須です。コンテキスト長を上限の128K付近まで広げて利用する場合、KVキャッシュのメモリ消費が増大するため、余裕を持ったRAM容量の確保が不可欠となります。
74B-A9BモデルとSuper VLモデルとの違いは何か？
NVIDIAが発表したNemotron 3.5ファミリーには、Bolt以外にもフラッグシップとなる大型モデルが存在します。
それぞれの立ち位置と能力の違いを理解しておくと、用途に応じた使い分けが明確になります。
Nemotron 3.5ファミリーの頂点に立つのは「Nemotron 3.5 Super VL」です。総パラメータ数120B（1200億）、リクエストあたりのアクティブパラメータ12B（120億）を誇り、コンテキスト長は100万トークン（1M）に達します。企業の基幹システムや、数百ページに及ぶ契約書や仕様書を一括で読み解くエンタープライズ用途を想定した巨大基底モデルです。
これに対して「Nemotron-3.5-Bolt-74B-A9B」は、Super VLの能力をベースにノートPCやワークステーション向けへ蒸留・圧縮したミドルクラスです。総パラメータを74B、アクティブパラメータを9Bに絞り込み、コンテキスト長は128Kに設定されています。Unslothなどが提供する1ビットや2ビットの高度なGGUF量子化を適用することで、ファイルサイズを20GB台前半まで圧縮して動かせます。
そして最も現場に近い末端機器や一般ノートPC向けに用意されたのが「Bolt E4B」です。わずか4GB前後のフットプリントに絞り込まれており、リソースが極めて限られた端末でも即座に立ち上がる機動性を誇ります。
ローカルエージェント開発におけるBoltの得意分野
Nemotron 3.5 Boltの登場によって、これまでクラウドAPIに頼らざるを得なかった自律型AIエージェントの開発現場が変わりつつあります。
ローカル完結型のモデルが実用レベルに達したことで、通信コストとデータプライバシーの制約が大幅に緩和されました。
得意分野の筆頭は、デスクトップ画面のUI操作を代行するPC操作アシスタントです。画面全体のスクリーンショットを定期的にBoltへ入力し、ボタンの位置や入力フォームの構造を視覚的に判定させます。判断結果をもとに、マウスのクリック座標やキーボード入力をツール呼び出し経由でOSへ送信します。通信遅延のないローカル推論だからこそ、素早い画面遷移にも追従可能です。
小型ロボットやIoTデバイスの制御ユニットとしても力を発揮します。カメラモジュールから送られてくる映像フレームを読み込み、「障害物までの大まかな距離」や「指定された物体の有無」を判定して移動命令を出力します。外部ネットワークが遮断された倉庫内や屋外環境でも、自律的な判断を維持できる強みがあります。
社内ドキュメントの仕分けや個人データの整理も得意な領域です。スキャンした領収書や請求書の画像をローカルフォルダに保存するだけで、Boltが金額や日付、取引先を自動で抽出して名前を変更します。機密情報を外部のサーバーへ一切送信しないため、セキュリティポリシーの厳しい企業組織でも導入のハードルが低くなります。
AIエージェントの最新トレンドや設計手法については、AIエージェントの解説記事で基礎知識を深めておくと全体の設計がスムーズになります。
他の軽量オープンモデルと比較した強みと弱点
ローカルで動く小型オープンモデルの市場には、すでにMetaのLlamaシリーズやGoogleのGemmaシリーズ、MicrosoftのPhiシリーズなど強力なライバルが存在します。
導入を検討する際は、他社モデルと比較した際の際立った強みと、あらかじめ留意すべき弱点を把握しておく必要があります。
次の表は、代表的な小型オープンモデルとNemotron 3.5 Boltの特性を比較したものです。
| モデル名 | サイズ感 | 画像認識 | ツール利用 | 主な |
|---|---|---|---|---|
| Nemotron 3.5 Bolt (E4B) | 約4GB | 対応 | 得意 | Mamba-2とMoEによる高速処理、128K長文対応 |
| Llama 3.2 (3B/11B Vision) | 3B〜11B | 11B等で対応 | 標準的 | 圧倒的な知名度と豊富な周辺ライブラリのサポート |
| Gemma 2 (2B/9B) | 2B〜9B | 基本テキスト | 標準的 | テキスト推論の論理性が高く小規模サイズで優秀 |
| Phi-3.5-vision | 約4Bクラス | 対応 | 標準的 | 高い読解力と図表認識、モバイル機器への適合性 |
つまり、Nemotron 3.5 Boltは小型サイズでありながら「画像認識・長文コンテキスト・ツール呼び出し」の3要素をバランスよく兼ね備えた実務向けモデルです。
最大の強みは、長文を読み込ませた際の軽快な動作と、ツール呼び出しの精度の高さです。一般的な小型モデルは長文コンテキストを与えると推論速度が極端に低下しますが、BoltはMamba-2アーキテクチャの特性を活かして安定した速度を保ちます。
一方で弱点も存在します。超大規模なクラウドモデル（Claude OpusやGPT-5系など）に比べると、難解なコーディング課題や多段階の複雑な数学的推論では知識量の絶対的な差が出ます。また、世界中の膨大なライブラリやサンプルコードの充実度という点では、歴史のあるLlamaエコシステムに一歩譲る場面があります。
複雑なWebアプリケーションの自動生成や本格的な開発基盤を求めている場合は、端末内モデルだけでなくBolt.newの使い方・料金まとめも合わせて確認し、適材適所で使い分ける判断が賢明です。
AI PICKS編集部の判定
Nemotron 3.5 Boltに対する編集部の見立ては、ローカルエージェントの実験枠を一気に実用レベルへ引き上げた「破格の小型VLM」です。4GB前後のフットプリントで128Kトークンを保持し、画像認識とツール呼び出しを安定してこなす性能は、同等クラスの軽量モデル群の中でも頭ひとつ抜けています。
正直イマイチな点を挙げるとすれば、日本語の長文出力における表現の硬さや、専門知識を深く掘り下げた際の知識量の限界です。複雑なコードベース全体を俯瞰した大規模リファクタリングや、文芸的な長文ライティングを期待すると物足りなさを覚えます。
しかし、手元のMacBookや一般PCで「通信なし・従量課金なし」で画面認識アシスタントやローカル文書スクレイピングを動かす用途なら、現状もっとも筋のいい選択肢のひとつです。機密保持を最優先にしたい現場なら、試す価値が十分にあります。
よくある質問（FAQ）
Q. Nemotron 3.5 Boltは完全無料で利用できますか？
完全無料で利用できます。NVIDIAがオープンウェイトモデルとして公開しており、OllamaやGGUFファイルを通じてローカル環境へダウンロードすれば、月額費用やAPIの従量課金は一切発生しません。商用利用の可否については、付属のオープンライセンス条件に従って運用してください。
Q. 日本語での対話や日本語文書の画像認識に対応していますか？
対応しています。プロンプトへの日本語入力に対して自然な日本語で応答可能です。また、画像内に含まれる日本語のテキストや看板、書類の文字情報についても良好な精度で読み取れます。ただし専門用語が連続する長文の生成では英語の方がより安定した出力を得られます。
Q. GPUを搭載していないノートPCでも動作しますか？
E4Bバリアントであれば、CPUのみの環境でも動作自体は可能です。ただし画像解析や長文コンテキストの処理にはある程度の計算負荷がかかるため、GPUやApple Siliconのユニファイドメモリ環境に比べると応答速度は低下します。実用的な応答速度を確保したい場合は、VRAM 4GB以上のGPU搭載機か、Apple Silicon搭載Macの利用を推奨します。
Q. 商用利用における制限事項はありますか？
基本的にはオープンライセンスに準拠しており、社内業務での利用や自社ツールのバックエンドとしての組み込みが認められています。ただし、モデルの派生品を大規模に再配布する場合や特定のサービス規約に関わる要件については、公式リポジトリのライセンス条項を事前に確認してください。
Q. 128Kトークンをフルに活用するとどれくらいメモリを消費しますか？
128Kトークンをすべて埋めて処理する場合、モデル自体のサイズに加えてKVキャッシュを保持するための追加メモリが必要になります。E4Bモデル単体は約4GBで収まりますが、長大なコンテキストを限界まで読み込ませる場合は、システム全体で16GB以上のRAMを確保しておく必要があります。
Q. Ollama以外のツールやライブラリから呼び出すことは可能ですか？
可能です。llama.cppやUnsloth Desktopなど、GGUF形式のモデルをサポートする各種実行環境に対応しています。また、vLLMなどの推論エンジンを利用してサーバー環境にプライベートAPIエンドポイントを構築し、Webアプリケーションやモバイルアプリのバックエンドとして活用することもできます。
あわせて見たいツール・カテゴリ
ローカル環境でのモデル構築や、クラウドを併用した最新のAI開発手法に興味がある方は、以下のツールやカテゴリも参考にしてください。
小型のローカルモデルで端末内タスクを完結させる手法と、クラウドの強力なAI基盤を組み合わせることで、開発効率とセキュリティの双方を両立できます。開発環境全体の自動化やアプリ構築をさらに加速させたいなら、Bolt.new・Lovable・v0の比較記事を続けて読むと、最新のAI開発ツールの全貌を効率よく把握できます。
