Dify RAGの作り方5手順｜ナレッジ登録・精度改善・MCP連携まで (2026年版)

---

Dify RAGとは？社内資料を読ませて答えさせる仕組み

Dify RAGとは、Difyの「ナレッジ」機能に文書を登録し、AIがその中身を検索してから回答する仕組みです。RAGは「社内資料を読ませて答えさせる仕組み」と覚えておけば十分です。

普通のチャットAIは、学習済みの知識だけで答えます。そのため、自社の就業規則や製品仕様は知りません。RAGは質問が来るたびに関連する文書を探し、その抜粋をAIへの指示文に添えて渡します。

Difyはこの流れを画面操作だけで作れます。文書の分割、ベクトル化、検索、回答生成まで一続きです。エンジニアでない担当者でも社内ボットを組めるので、情報システム部門以外の人が手を動かせる点が地味に効きます。

RAG全体の考え方やベクトルDBの役割から押さえたいなら、RAGとは？仕組み・ベクトルDB・最新動向まで完全解説を先に読むと、この先の設定項目の意味がすっと入ります。Dify自体が初めてならDifyとは？無料枠でできることと月$59からの活用法で全体像をつかんでおくと迷いません。

仕組みが分かったら、手を動かす前に決めておきたいことが1つあります。どこでDifyを動かすかです。

---

始める前に決めること：Cloud版かセルフホストか

使い始めるならCloud版、社外に出せない資料を扱うならセルフホストが基本の分かれ目です。後から移すこともできますが、ナレッジの作り直しが発生します。

DifyにはブラウザだけでPCから使えるCloud版と、自分のサーバーに入れるCommunity Editionがあります。管理画面は同じWebアプリなので、操作感はほぼ変わりません。日本語表示にも両方対応しています。右上のアバターからLanguageを選べば切り替わります。

違いが出るのは「データの置き場所」と「運用の手間」です。下の表で比べます。

つまり、試作はCloud版、機密性か容量で困ったらセルフホストという順番が無難です。

迷ったらCloud版の無料Sandboxで一度5手順を通してください。操作を体で覚えてからセルフホストに移ると、構築時のつまずきが激減します。ここからは実際の手順に入ります。

---

手順1：ナレッジを作って文書を登録する

最初の一手は、上部メニューの「ナレッジ」から新しいナレッジを作り、手元の文書をアップロードすることです。この段階で文書を選別しておくと、後の精度調整がぐっと楽になります。

登録元は大きく3つあります。

• ファイルのアップロード：PDF、Word、Markdown、テキスト、CSVなど
• Notionとの同期：ワークスペースを連携してページを取り込む
• Webサイトの取り込み：外部のクローラーサービスと連携してページを読み込む
• 空のナレッジ：後からAPI経由で文書を足す前提で作る

ここで効くのが「文書の下ごしらえ」です。スキャンした画像だけのPDFは、文字が取れず検索にかかりません。表だらけのExcelをそのまま入れると、行と列の関係が崩れがちです。

登録前に次の3点を確認しておくと失敗が減ります。

1. 古い版と新しい版が混ざっていないか
2. 1ファイルに複数のテーマが詰め込まれていないか
3. 見出しが本文と区別できる形で書かれているか

版が混ざるのが一番の事故のもと。AIは古い規程と新しい規程の両方を拾い、どちらかを自信満々に答えます。AIがそれっぽい嘘をつくこと（ハルシネーション）の多くは、実はモデルより文書側に原因があります。

なお無料のSandboxではナレッジ容量が50MBまでです。PDFを数十本入れると届くこともあるので、試作は代表的な文書10本程度に絞るのが現実的です。文書が揃ったら、次は分け方を決めます。

---

手順2：チャンク分割と前処理をどう決める？

チャンク分割は「文書をどの大きさに切って保存するか」の設定で、RAGの精度をいちばん左右します。迷ったら、見出し単位で切れる設定から始めてください。

RAGは文書を丸ごと検索するわけではありません。「チャンク」と呼ばれる小さな断片に切り、その断片ごとに検索します。切り方が悪いと、答えに必要な情報が2つの断片に泣き別れします。

Difyでは主に2つの分割モードを選べます。

つまり、ピンポイントで探しつつ文脈も渡したいなら親子モードが一択です。

汎用モードで大事なのは区切り文字です。Markdownなら見出し記号、Wordから変換した文書なら改行2つ、といった具合に文書の構造に合わせます。最大長は既定値から始め、答えが途中で切れるなら伸ばし、無関係な話が混ざるなら縮めます。

前処理のオプションも見落とせません。連続する空白や改行を整理する項目、URLやメールアドレスを除く項目があります。問い合わせ先のメールアドレスを答えさせたい場合、後者をオンにすると消えてしまうので要注意です。

分割結果は登録前にプレビューで確認できます。ここで2〜3個の断片を実際に読み、「この断片だけで意味が通るか」を見てください。意味が通らない断片が多いなら、区切り方を変えるサインです。

---

手順3：インデックス方式と検索設定を選ぶ

インデックス方式は「高品質」を選び、検索はハイブリッド検索にRerankを重ねる構成がおすすめです。コストより精度を優先したい社内ボットなら、この組み合わせで外しにくくなります。

インデックス方式は2種類あります。

• 高品質：埋め込みモデル（文章の意味を数値に変換するAI）でベクトル化する
• 経済：キーワードの一致で探す。モデル代はかからない

経済モードは安いものの、言い回しが違うと引っかかりません。「有休」と「年次有給休暇」を別物として扱ってしまいます。社内の問い合わせ対応ではこれが致命的なので、正直イマイチです。

高品質を選ぶと、検索方式を3つから選べます。

つまり、社内文書は言い換えと固有名詞が混ざるので、ハイブリッド検索を選ぶのが基本です。

Difyは公式ブログで、ハイブリッド検索、Rerankモデル、複数のナレッジを横断する検索を組み合わせてRAGの精度を高めたと説明しています。Rerankは「検索で拾った候補を、質問との関連度で並べ直すAI」です。候補を多めに拾い、Rerankで上位だけ残すと、無関係な断片がAIに渡りにくくなります。

もう1つ触っておきたいのが、取得件数（TopK）とスコアのしきい値です。件数を増やすと取りこぼしは減りますが、ノイズも増えます。しきい値を上げると、関連の薄い断片を足切りできます。どちらも既定値から始め、手順5のテストを見ながら少しずつ動かしてください。

設定が済んだらナレッジの作成は完了です。ただ、この時点ではまだ誰も使えません。アプリにつなぐ作業が残っています。

---

手順4：チャットアプリにナレッジをつなぐ

ナレッジを使うには、アプリ側の「コンテキスト」にナレッジを追加します。チャットボット型ならこれだけで、質問のたびに自動で検索が走ります。

「スタジオ」から新しいアプリを作ります。種類は目的で選びます。

• チャットボット：社内ヘルプデスクなど、会話で質問を受けるならこれ
• チャットフロー／ワークフロー：検索の前後に処理を足したいとき
• エージェント：ナレッジ以外のツールも状況に応じて使わせたいとき

チャットボットの場合、編集画面の「コンテキスト」でナレッジを選ぶだけです。ワークフロー系では「知識検索」ノードを置き、その出力をLLMノードにつなぎます。検索と生成の間に分岐を挟めるのがワークフローの強み。

AIへの指示文（プロンプト）も調整しておきます。効くのは次のような一文です。

回答は必ずコンテキストの内容だけを根拠にしてください。コンテキストに答えが無い場合は「資料に記載がありません」と答えてください。

この一文があるかどうかで、知らないことを知らないと言えるボットになるかが決まります。社内向けでは、それっぽい嘘より「分かりません」のほうがはるかに信頼されます。

引用表示の設定もオンにしておくと重宝します。回答の下に、根拠になった文書名と断片が表示されます。利用者が原文を確かめられるので、ボットへの信頼が一段上がります。

アプリはWebページとして公開したり、APIで自社システムから呼び出したりできます。APIとは「他のソフトからAIを呼び出す窓口」のこと。社内ポータルやチャットツールに埋め込む場合はこちらを使います。

---

手順5：検索テストで回答の質を確かめる

公開前に、ナレッジ画面の「検索テスト」で想定質問を20個ほど流し、正しい断片が上位に来るかを確認します。ここを飛ばすと、精度の問題が本番で利用者に見つかります。

検索テストはAIの回答を作らず、どの断片がどんなスコアで拾われたかだけを見せてくれます。回答がおかしいとき、原因が「検索」にあるのか「生成」にあるのかを切り分けられます。

テスト用の質問は、次の3種類を混ぜると穴が見つかりやすくなります。

1. 資料の言葉そのままの質問（例：「慶弔休暇の日数は？」）
2. 言い換えた質問（例：「親が亡くなったら何日休める？」）
3. 資料に答えが無い質問（例：「社員食堂のメニューは？」）

1が拾えないなら分割か前処理の問題。2が拾えないなら検索方式の問題です。3で無関係な断片が高スコアで出るなら、しきい値が低すぎます。

テスト結果はスプレッドシートに「質問・期待する文書・実際の上位3件・判定」の形で残しておくと便利です。設定を変えるたびに同じ質問を流せば、改善したのか悪化したのかが数字で分かります。

ここまでの整理：ナレッジ作成→分割→検索設定→アプリ接続→検索テストで、Dify RAGは一通り動きます。精度が足りないときに触る場所は、分割・検索方式・しきい値の3つに絞られます。

---

回答精度が上がらないときは何を直す？

精度が出ない原因の大半は、文書の質か分割の仕方です。モデルを高いものに替える前に、下の表の上から順に疑ってください。

症状ごとに、見直す場所をまとめました。

つまり、表の上半分は文書と分割、下半分は検索とプロンプトの問題です。上から潰すのが最短ルートになります。

見落とされがちなのが、メタデータによる絞り込みです。文書に「部署」「改訂日」「製品名」などの属性を付けておくと、検索時に条件で絞れます。営業部の質問に経理規程が混ざる、といった事故を防げます。

もう1つ効くのがナレッジの分割です。人事・経理・製品情報を1つのナレッジに全部入れると、似た言葉が衝突します。テーマ別にナレッジを分け、アプリ側で複数を選ぶ構成のほうが、Rerankも働きやすくなります。

それでも足りない場合に初めて、埋め込みモデルやRerankモデルの変更を検討します。日本語の文書が中心なら、日本語に強いと明記されたモデルを選ぶのが近道です。

---

Dify MCP連携で何ができる？

Dify MCP連携を使うと、ナレッジに入っていない社内システムや外部サービスのデータも、AIが必要に応じて取りに行けるようになります。RAGを「読むだけ」から「調べて動く」へ広げる機能です。

MCP（Model Context Protocol）とは、AIと外部ツールをつなぐための共通規格です。USBのように差し口の形を揃えることで、1つのツールをさまざまなAIアプリから使い回せます。

DifyとMCPの関係は、向きが2つあります。

つまり、前者はDifyの手足を増やす連携で、後者はDifyのRAGを外へ貸し出す連携です。

RAGとの組み合わせで効くのは後者です。たとえば、Difyで作った社内規程の検索アプリをMCPサーバーとして公開します。すると、社員が普段使っているMCP対応のAIアシスタントから、そのまま規程を引けるようになります。ボットの画面をわざわざ開いてもらう必要がありません。

前者は、エージェント型のアプリで力を発揮します。「規程上は申請が必要」とナレッジで答えたあと、MCP経由で申請チケットまで作る、といった流れが組めます。

注意点もあります。MCPで外部ツールをつなぐと、AIが書き込み系の操作までできるようになります。最初は読み取り専用のツールだけに絞るのが安全です。設定画面の名称や配置はバージョンで変わりやすいので、導入時はDify公式ドキュメントで最新の手順を確認してください。

AIに外部ツールを使わせる設計そのものに興味があるなら、AIエージェントのカテゴリで他の選択肢も眺めておくと、Difyの立ち位置が見えてきます。

---

セルフホスト構成はどう組む？ConoHaは向いている？

セルフホストは、VPS（月額で借りる仮想サーバー）にDockerを入れ、公式のDocker Composeで立ち上げる構成が標準です。国内VPSのConoHaは、日本語の管理画面とサポートで進めたい人に向いています。

DifyのCommunity Editionは、公式GitHubリポジトリにDocker Composeの設定ファイルが用意されています。サーバーにDockerを入れ、リポジトリを取得し、環境変数のファイルを整えて起動する流れです。起動するとWeb画面、API、ベクトルDB、データベースなど複数のコンテナがまとめて動きます。

構成を組むときの要点は4つです。

• メモリに余裕を持たせる：複数のコンテナが同時に動くため、最小構成だと重くなりやすい
• ディスクは文書量の数倍を見る：原本に加えてベクトルデータとログがたまる
• HTTPS化する：社外から使うならリバースプロキシで証明書を設定する
• バックアップを決める：データベースとアップロードファイルの保存先を定期的に退避する

必要なCPUやメモリの最低要件は公式ドキュメントに載っています。VPSのプランを選ぶ前に、必ずそちらと突き合わせてください。

では、ConoHaは誰に向いているのか。公開情報から整理すると次のとおりです。

つまり、社内の小〜中規模ボットを1台で回すならConoHaは有力です。サーバー管理をしたくない人はCloud版のほうが幸せになれます。

プランの種類や料金、Docker用テンプレートの有無は変わることがあるので、ConoHaの詳細ページで最新の条件を確認してから選んでください。

セルフホストで最大の落とし穴はアップデートです。Difyは更新が速く、放置するとセキュリティ修正も取り込めません。月に1回は更新日を決め、検索テストの質問を流してから本番に反映する運用にしておくと安心です。

---

Dify RAGの料金はいくらかかる？

Dify Cloud版は無料のSandboxから始められ、本番運用はProfessionalの月$59が現実的な入り口です。これとは別に、使うAIモデルの利用料がかかります。

Dify公式の料金ページによると、プランごとの主な違いは次のとおりです（2026年9月時点）。

つまり、RAGで効くのはクレジット数より容量の差です。50MBから5GBへ、約100倍に広がります。

Sandboxの50MBは、試作には足りても本番の社内文書を載せきるには心もとない量です。複数部署の規程やマニュアルを入れるなら、Professional以上かセルフホストが前提になります。

セルフホストの場合、Difyのライセンス料はかかりません。代わりにサーバー代と、埋め込み・Rerank・回答生成に使うAIモデルの利用料が発生します。文書を登録するときのベクトル化にも利用料がかかるので、大量の文書を何度も入れ直すと地味に効いてきます。

無料枠の制限やProfessionalに上げる判断基準は、Difyとは？月59ドルの分岐点と無料枠200回の制限まとめで細かく整理しています。プラン選びで迷ったらこちらが早いです。最新の条件はDify公式の料金ページでも確認してください。

---

AI PICKS編集部の判定

社内資料ボットを最短で動かしたいなら、DifyのRAGは一択です。ナレッジ登録からアプリ公開までを画面操作だけで通せる製品は、ノーコード系の中でも数えるほどしかありません。

公開情報を突き合わせると、評価が分かれるのは精度調整のしやすさです。ハイブリッド検索、Rerank、親子モードの分割、メタデータでの絞り込みまで、精度に効くつまみが一通り揃っています。しかも検索テストで原因を切り分けられます。この道具立ては、ノーコードの枠では破格です。

一方で、Sandboxの容量50MBは本番用としては微妙です。無料のまま部署全体の資料を載せようとすると、すぐ壁に当たります。試作はSandbox、本番はProfessionalかセルフホスト、と最初から割り切ったほうが遠回りしません。

セルフホストは、機密文書を扱う企業には圧倒的に安心な選択肢です。ただしアップデートとバックアップを自分で回す覚悟が要ります。サーバー管理の担当者がいないなら、Cloud版で始めるのが正解です。

MCP連携は、RAGを社内のAIアシスタントへ組み込む入口として重宝します。まずは読み取り専用で小さく試すのをおすすめします。

---

よくある質問（FAQ）

Q. Dify RAGは無料で作れますか？

作れます。Cloud版のSandboxは無料で、月200メッセージクレジットとナレッジ容量50MBが使えます。試作には十分ですが、部署全体の文書を載せる本番運用には容量が足りない場合がほとんどです。

Q. 日本語の文書でも精度は出ますか？

出ます。ただし日本語に強い埋め込みモデルとRerankモデルを選ぶことと、ハイブリッド検索にすることが条件です。管理画面も日本語に完全対応しているので、設定で迷うことはあまりありません。

Q. PDFを入れたのに検索に引っかかりません。

スキャンした画像だけのPDFの可能性が高いです。文字情報が無いため、検索対象になりません。OCRでテキスト化してから登録し直すか、元のWordやテキストを使ってください。

Q. チャンクサイズはいくつに設定すればいいですか？

既定値から始めるのが無難です。答えが途中で切れるなら大きく、無関係な話が混ざるなら小さくします。規程集やマニュアルのように文脈が大事な文書は、親子モードに切り替えるほうが効果的です。

Q. Dify MCPとナレッジはどう使い分けますか？

更新頻度の低い文書はナレッジに入れ、日々変わるデータはMCP経由で取りに行く、という分け方がおすすめです。在庫や案件の状況のように毎日変わる情報をナレッジに入れると、入れ直しの手間が止まりません。

Q. セルフホストとCloud版で機能に差はありますか？

管理画面は同じWebアプリなので、RAGの基本機能はほぼ共通です。違うのはデータの置き場所、容量の上限、アップデートを誰がするかです。一部の機能はプランによって扱いが変わるので、導入前に公式の比較表を確認してください。

Q. 作ったRAGボットを社外向けに公開してもいいですか？

公開自体はできます。ただし社内資料を誤って出さないよう、社外向けのナレッジは社内用と分けて作ってください。Community EditionでDifyそのものをSaaSとして再提供する場合は、ライセンスの条件確認が必要です。

---

あわせて見たいツール・カテゴリ

Difyと組み合わせて検討されやすいツールやカテゴリをまとめました。目的が近いものから当たると比較が早く進みます。

• ConoHa：Difyのセルフホスト先として国内VPSを検討するなら、プランと条件をここで確認
• AIチャットボットのカテゴリ：RAGボットと既製のチャットボット製品を比べたいときに
• AIチャットボットの比較一覧：問い合わせ対応向けのボットを横並びで見たいときに
• AIノーコードのカテゴリ：Dify以外のノーコードAI開発ツールも候補に入れるなら
• AIカスタマーサポートのカテゴリ：社外向けFAQボットを作る予定があるなら
• AI自動化の比較一覧：RAGの前後に業務フローの自動化まで広げたいときに
• AIエージェントの比較一覧：MCPで外部ツールを使わせる構成を検討するなら

アプリ開発ツールとして比べたい場合はDify vs Adalo: 違いと選び方完全ガイド、データベース周りの役割分担を知りたい場合はDify vs Neon比較｜役割が違う2ツールを無料枠と用途で選ぶ判断軸が参考になります。

次に読むならこれ。RAGとは？仕組み・ベクトルDB・最新動向まで完全解説です。Difyの設定項目がなぜ精度に効くのかが仕組みから分かるので、チューニングで迷ったときの判断が速くなります。