![]()
ChatGLMの代替10選、無料・日本語対応のオープンソースLLM比較 (2026年版)
この記事のポイント
ChatGLMを触ってみたものの、日本語の返答がどこか他人行儀だったり、更新が追えなくなったり。乗り換え先を探しているなら、選択肢は思っているより広いです。
答えを先に置きます。社内資料を扱うならOllamaでオープンウェイトのモデルをローカルに立てる。日本語の自然さを最優先するなら国産のELYZA系。精度で殴りたいならクラウドの大手に素直に乗る。この3択で、ほぼ収まります。
ChatGLMとは、GLMという基盤モデルから派生した、中国語と英語を軸にしたオープンソースの対話AIです。コード生成に寄せたCodeGeeX、Web検索と組み合わせたWebGLMなど、派生モデルが枝分かれしてきた系列でもあります。つまり「1つの製品」ではなく「一族」。ここが乗り換え先を考えるときの出発点になります。
ChatGLMから乗り換えたくなる理由は、だいたい3つです

乗り換え相談の中身は、性能不満・言語不満・運用不満のどれかに落ち着きます。自分がどれなのかで、読むべき章が変わります。
ひとつめは日本語の精度。中国語と英語を主戦場にしてきた系列なので、日本語の敬語やビジネス文書は苦手が出やすい領域です。ふつうの雑談は通っても、社外向けの文章になると粗が見えます。
ふたつめは運用の重さ。モデルの世代交代が速く、環境構築の情報がすぐ古くなる。動かすまでに半日溶ける、という声はこの手のオープンモデル全般につきまといます。
みっつめは組織としての説明のしづらさ。中国発モデルを業務に載せるとき、情報システム部門への説明コストが高くつくケースがあります。技術的な良し悪しとは別の話。でも、現場では一番効きます。
自分がどれで詰まっているか。ここを言語化しないまま代替探しを始めると、また同じ壁にぶつかります。
代替を選ぶ判断軸は? — 5つに絞ると迷いません

比較記事を10本読むより、軸を5つ決めるほうが早いです。下の表を、自分の状況に当てはめてみてください。
| 判断軸 | 何を見るか | 重く見るべき人 |
|---|---|---|
| 費用 | 無料で回数無制限か、従量課金か | 検証量が多い個人・小規模チーム |
| 日本語 | 敬語・専門語・長文要約の自然さ | 社外向け文章を書かせたい人 |
| 公開度 | 重み(モデル本体)が配布されているか | 改造・再学習したい人 |
| 設置場所 | 手元PCか、自社サーバーか、他社クラウドか | 機密データを扱う人 |
| ライセンス | 商用利用の条件、再配布の可否 | 製品に組み込みたい人 |
つまり、この5つのうち上位2つが決まれば候補は3つ以下に絞れます。全部を満たすモデルは存在しません。
ここから先は、この軸に沿って具体名を並べていきます。
無料で使える代替はどれ? — 費用のかかり方は2種類だけ

無料といっても中身は2通りあります。モデル本体がタダなのか、使用回数がタダなのか。混同すると予算の見積もりが崩れます。
オープンウェイト(モデルの重みが配布されている)系は、モデル自体の費用がゼロ。代わりに動かすPCやサーバーの費用がかかります。手元のノートPCで小型モデルを回すぶんには、追加の請求書は来ません。電気代だけ。
一方、クラウドのチャットサービスは無料プランがあっても、回数や機能に上限があります。2026年に入ってからは各社が料金プランの見直しを相次いで行っており、上位プランの新設や統合が続いています。今日の無料枠が半年後も同じとは限らない。ここは前提として押さえておいたほうがいいです。
| 費用のかかり方 | 具体例 | 実質的な出費 | 上限 |
|---|---|---|---|
| モデルが無料 | オープンウェイト系をローカル実行 | PC代・電気代 | なし(PCの速度が上限) |
| 使用回数が無料 | 大手クラウドの無料プラン | ゼロ | 回数・機能に制限 |
| 従量課金 | 各社の公式API | 使った分だけ | 予算次第 |
つまり「無料で無制限に叩きたい」ならローカル実行の一択です。検証を何百回も回す人ほど、この差が効いてきます。
オープンソースの代替はどこまで実用になる? — 主要10モデル

ChatGLMと同じ土俵、つまり重みが公開されていて自分の環境で動かせるモデルを中心に10個並べます。日本語の実力は用途によって印象が変わるので、目安として読んでください。
| モデル | 開発元の地域 | 日本語の目安 | 得意なこと |
|---|---|---|---|
| Llama系 | 米国 | 実用域 | 長い資料の読み込み、情報量 |
| Qwen系 | 中国 | 実用域 | 多言語、サイズ展開の豊富さ |
| Mistral系 | 欧州 | やや弱い | 軽さ、応答の速さ |
| DeepSeek | 中国 | 実用域 | 論理的な推論、コード |
| Kimi | 中国 | 実用域 | 道具を使わせる自動化用途 |
| Phi-4 | 米国 | 弱い | 極小サイズでの動作 |
| Command R+ | カナダ | 実用域 | 社内資料の検索連携 |
| ELYZA | 日本 | 強い | 日本語の指示理解、敬語 |
| KARAKURI | 日本 | 強い | カスタマーサポート文体 |
| Stockmark | 日本 | 強い | ビジネス文書、業界用語 |
海外勢のなかでは、Metaのオープンウェイト系(Llama 4 Scoutなど)が長い資料をまとめて読ませる用途で名前が挙がります。道具を呼び出して作業を自動化させる用途では、MoonshotのKimi K2が評価される場面が多い。用途がはっきりしているなら、そこから逆算するのが速いです。
上の表で3つに絞れたら、次は日本語の話に進んでください。
日本語の精度で選ぶならどれ? — 国産モデルの立ち位置
日本語だけで比べるなら、国産モデルが素直に強いです。ただし「何でも強い」わけではありません。ここを誤解すると期待外れになります。
国産モデルの強みは、敬語の使い分けと日本語特有の言い回しです。「お手数ですが」「恐れ入りますが」の距離感を外さない。海外モデルは意味は合っていても、翻訳調のにおいが残ることがあります。社外に出す文章では、この差が地味に効きます。
逆に弱いのは、規模の勝負になる領域。難しい推論や、英語の技術文書を大量に読ませる作業では、大手クラウドのモデルに水をあけられます。日本語の自然さと総合力は、いまのところトレードオフ。
現実的な使い分けはこうです。
- 社外向けの日本語文章 → 国産モデル
- 社内メモ・要約・下書き → 海外オープンモデルで十分
- 難しい調査・分析 → クラウドの大手モデル
- 機密性が高い作業 → ローカル実行できるモデル
日本語の手触りは数値では測れません。同じ指示文を3つのモデルに投げて、返ってきた文章を音読してみる。それが一番はやい判定方法です。
ローカル実行の道具立て — OllamaとLM Studioのどちらから入るか
モデルを手元で動かす道具は、実質この2つに絞られます。どちらも無料で、インストールから最初の応答まで30分もかかりません。
Ollamaはコマンドで操作する道具です。コマンド1行でモデルを取ってきて、そのまま会話が始まります。他のソフトから呼び出す窓口(API)も自動で立つので、自作アプリに組み込みたい人向け。
LM Studioは画面付きです。マウスでモデルを選んでダウンロードし、チャット画面で話しかける。黒い画面が苦手なら、こちらから入るべきです。
| 比較項目 | Ollama | LM Studio |
|---|---|---|
| 操作方法 | コマンド | 画面(GUI) |
| 導入の速さ | 速い(コマンドに慣れていれば) | 速い(誰でも) |
| 他ソフトからの呼び出し | 標準で対応 | 対応(設定が必要) |
| モデルの探しやすさ | 名前を知っている前提 | 一覧から選べる |
| 向いている人 | 開発者・自動化したい人 | まず試したい人 |
つまり、開発に組み込む予定があるならOllama、手触りの確認だけならLM Studio。両方入れても喧嘩はしません。
導入の手順そのものはOllamaのローカル実行ガイドにまとめてあります。コマンドを1行ずつ追いたい人は、そちらを開きながら進めるとつまずきません。料金と必要スペックの感覚を先に掴みたいなら、LM Studioの使い方と費用の記事のほうが近道です。
必要なPCの目安は、小型モデルならメモリ16GB程度の一般的なノートPCで動きます。大きいモデルを快適に、となるとGPUが要る。まずは小さいところから始めて、物足りなければ上げる。その順番で失敗しません。
クラウドAPI型に乗り換えるという選択
ローカルにこだわらないなら、大手のクラウドモデルに移るのが一番ラクです。環境構築がゼロで、精度も高い。
現在の主要な選択肢はChatGPT、Claude、Geminiの3つ。加えて、検索と要約を組み合わせた用途ならPerplexityやFeloのような調査特化のサービスが刺さります。Feloの使いどころはFeloの完全ガイドに整理してあるので、日本語での調査が主目的ならそちらが参考になります。
無料で試せる範囲を広く取りたいなら、Meta AIのガイドも覗いてみてください。オープンウェイトのLlama系をそのまま体験できる、いちばん敷居の低い入口です。
ただし、クラウドに移すと引き換えに失うものがあります。入力した内容が自社の外に出る、という事実です。ここが飲めるかどうかが分岐点。
料金は各社とも改定が続いています。プラン名も統廃合が起きているので、契約前に公式の料金ページを直接見るのが確実です。他社のまとめ記事の数字は、たいてい古い。
ライセンスと商用利用、ここでつまずきます
無料で使えることと、商用で使ってよいことは別の話です。ここを飛ばして製品に組み込むと、後から痛い目を見ます。
オープンウェイトのモデルは、配布されているライセンスがモデルごとにバラバラです。寛容なものもあれば、一定規模以上の利用に条件が付くものもあります。同じ開発元でも、モデルの世代で条件が変わることさえある。
| 確認すべき項目 | どこを見るか | 見落とすとどうなるか |
|---|---|---|
| 商用利用の可否 | 公式リポジトリのライセンス表記 | 製品出荷後に差し替えが必要になる |
| 利用規模の条件 | ライセンス本文の条項 | ユーザー数が増えた時点で違反になる |
| 出力物の権利 | 利用規約の該当条項 | 生成物を販売できない |
| 再配布・改変 | ライセンスの種類 | 派生モデルを配れない |
| 学習データの扱い | 開発元の公開情報 | 説明責任を果たせない |
つまり、モデル名でライセンスを覚えるのではなく、使う版ごとに公式表記を毎回確認する。これしかありません。面倒ですが、一度書類にまとめておけば次からは5分です。
社内でAIツールを正式採用する手順そのものに不安があるなら、社内監査向けAIツールの記事がチェック項目の下敷きになります。情報システム部門に出す資料の骨組みとして使えます。
社内導入でつまずくポイントは? — 技術以外の壁
モデルの性能で止まる案件は、実はそれほど多くありません。止まるのは手前です。
いちばん多いのが、データの持ち出し可否の確認漏れ。「試しに使ってみた」の段階で顧客情報を貼ってしまい、後から大騒ぎになるパターン。検証用のダミーデータを最初に用意しておくだけで防げます。
次に多いのが、開発元の所在地に関する社内規程です。特定の国のサービスを業務に使えない規程がある組織では、モデルの性能以前に選択肢が消えます。中国発モデルからの乗り換え相談の何割かは、これが本当の理由。
そして、運用の引き継ぎ。ローカルにモデルを立てた人が異動すると、誰も更新できない箱が残ります。導入時に手順書を1枚残す。それだけで寿命が倍になります。
ここまでの整理をひとことで。
ここまでの整理: 費用で選ぶならローカル実行、日本語で選ぶなら国産モデル、精度で選ぶならクラウド大手。そして技術選定より先に、データの持ち出し規程を確認する。
用途別の早見表と、乗り換えの3ステップ
自分の用途に一番近い行を探して、そこから始めてください。全部を比較する必要はありません。
| 用途 | 最初に試すもの | 理由 |
|---|---|---|
| 社内資料の要約・検索 | ローカル実行のオープンモデル | データが外に出ない |
| 社外向けの日本語文章 | 国産モデル | 敬語と言い回しが自然 |
| プログラミング支援 | クラウド大手のモデル | 精度差がはっきり出る |
| 大量のテキスト分類 | 小型のオープンモデル | 従量課金が積み上がらない |
| 調査・情報収集 | 検索連携型のサービス | 出典付きで返ってくる |
| 自作アプリへの組み込み | Ollama +オープンモデル | 呼び出し窓口が最初から立つ |
つまり、用途が1つに定まっていれば、試すべきものは1つに決まります。
乗り換えの手順はこうです。手元のPCに小型モデルを1本入れて、普段使っている指示文を10個ぶつける。返ってきた日本語を読んで、使えるか使えないかを決める。ここまでで半日。
次に、その1本で回らない作業だけを洗い出す。だいたい「難しい推論」と「最新情報の取得」の2つに集約されます。そこだけクラウドに投げる二段構えにすれば、費用も情報リスクも抑えられます。
最後に、使うモデルとライセンスを1枚の表にして残す。これで引き継ぎの問題が消えます。
AIツール選びの全体像をもう一段広く掴みたいときは、LLMの基礎ガイドが土台になります。画像生成まで含めた道具立てを揃えたいならAIイラストツールの比較や、ローカル実行の思想が近いComfyUIとStable Diffusionの比較も同じ棚の話です。手元で動かす発想は、テキストも画像も共通しています。
AI PICKS編集部の判定
ChatGLMの代替として最初に触るべきは、Ollamaで動かすオープンウェイトのモデル一択です。理由は単純で、費用ゼロ・データ持ち出しゼロ・回数制限なしという3点を同時に満たすのが、いまのところここしかないからです。
日本語の自然さだけを比べれば国産モデルが圧倒的に上ですが、選択肢が限られるぶん用途を選びます。社外向けの文章を量産するチームには重宝しますが、コードや英語資料まで任せるとすぐ天井が見えます。万能を期待すると正直イマイチ、という評価になりがち。
逆に、精度を最優先してクラウド大手に全部投げる判断も筋は通っています。ただし、社内データを扱う場面で毎回稟議が必要になるなら、運用の摩擦で結局使われなくなる。ここが現場で一番よく見る失敗です。
微妙なのは、中国発の別モデルに横滑りするパターン。技術的には良いモデルが多いのに、乗り換えの動機が「所在地への懸念」だった場合、何も解決していません。動機を先に言語化する。それだけで選定が半分終わります。
よくある質問(FAQ)
Q. ChatGLMは今も使えますか?
モデル自体は公開されており、動かすことはできます。ただし系列の世代交代が速く、環境構築の情報が古くなりやすい点は覚悟が要ります。新規で長く使う前提なら、更新が追いやすいモデルに寄せたほうが運用はラクです。
Q. 完全に無料でChatGLMの代替を使えますか?
使えます。オープンウェイトのモデルを手元のPCで動かせば、モデル代も利用料もかかりません。かかるのは電気代とPCの購入費だけ。ただし、大きいモデルを快適に動かすにはGPUが要るので、そこが実質的な初期費用になります。
Q. 日本語がいちばん自然なのはどれですか?
社外向けの文章に限れば国産モデルです。敬語の距離感と、日本語らしい言い回しで差が出ます。一方で推論の難しさや英語資料の処理では大手クラウドのモデルが上。用途を分けて使うのが現実的です。
Q. パソコンのスペックはどれくらい必要ですか?
小型モデルなら、メモリ16GB程度の一般的なノートPCで動きます。応答は少し待ちますが、要約や下書きなら実用の範囲。大きいモデルを速く動かしたいならGPU搭載機が前提になります。まず小型で試してから判断してください。
Q. 商用利用しても問題ありませんか?
モデルごとにライセンスが違うので、一律には言えません。公式リポジトリのライセンス表記を、使う版ごとに毎回確認してください。「オープンソースだから自由」と思い込むのが一番危ない誤解です。
Q. 社内データを読ませても大丈夫ですか?
ローカル実行なら、データは端末の外に出ません。クラウドサービスに貼る場合は、各社の学習利用の設定と認証取得状況を確認したうえで、社内規程に照らして判断してください。検証段階ではダミーデータを使うのが安全です。
Q. 乗り換えにどれくらい時間がかかりますか?
手元で1本動かして手触りを確かめるまでなら、半日あれば足ります。業務フローに組み込むところまで含めると、2週間程度を見ておくと現実的です。長引く原因は技術ではなく、社内の確認プロセスであることがほとんど。
Q. 結局どれを選べばいいですか?
社内データを扱うならローカル実行のオープンモデル、社外向け日本語なら国産モデル、精度重視ならクラウド大手。この3つから、いま困っていることに近いものを1つ選んでください。並行比較より、1本を深く試すほうが早く答えが出ます。
関連する比較・代替を見る
- ChatGLMとLlamaの比較 — 公開モデル同士で日本語と情報量を見比べる
- ChatGLMとQwenの比較 — 同じ中国発でサイズ展開の考え方が違う2系統
- ChatGLMとDeepSeekの比較 — 推論の強さで選ぶならこちら
- LlamaとMistralの比較 — 情報量を取るか、軽さを取るか
- ELYZAとKARAKURIの比較 — 国産モデル同士、文体の得意分野が分かれます
- OllamaとLM Studioの比較 — ローカル実行の道具をどちらから入れるか
- ChatGLMの代替一覧 — 条件で絞り込んで探す
- AIチャットボットのカテゴリ一覧 — 対話AI全体を眺める
- コーディング支援AIのカテゴリ一覧 — 開発用途で選ぶ場合
- 調査・リサーチ系AIのカテゴリ一覧 — 出典付きで答えさせたい場合
次に読むならこれ。Ollamaのローカル実行ガイドです。この記事で決めた方針を、実際にコマンド1行から動かすところまで持っていけます。
各ツールの公式サイト(一次情報)
料金・機能・対応範囲は各社公式が一次情報です。本記事は公開時点の検証に基づきますが、最新かつ正確な条件は必ず各公式ページで確認してください。
- ChatGLM — 公式サイト(AI PICKSの詳細)
- Meta Llama 3 — 公式サイト(AI PICKSの詳細)
- Qwen 2.5 — 公式サイト(AI PICKSの詳細)
- Ollama — 公式サイト(AI PICKSの詳細)
- ELYZA — 公式サイト(AI PICKSの詳細)
