先日、香川で開催したブートキャンプで、受講者の方からこんな質問をいただきました。
GraphRAGって、使ったほうがいいんですか?
結論からお伝えすると、私たちは自社プロダクト「FolderOS」にGraphRAGを採用していません。検討したうえで、見送りました。
技術の記事は「試してみた」が多く、「検討して見送った」はあまり見かけません。ですが実務では、採用しない判断のほうが圧倒的に多いはずです。今回は、その判断の中身を包み隠さず公開します。
専門用語はできるだけ使わずに書きました。「AIの新しい言葉が次々出てきて不安」という方にこそ、読んでいただければと思います。
AIは、御社の資料を知らない
まず、話の出発点です。
ChatGPTのようなAIは、インターネット上の公開情報を読んで賢くなりました。だから一般常識にはよく答えます。しかし、御社の見積書も、先週の議事録も、一切知りません。読んでいないのだから当然です。
「うちの業務のことを聞いても、的外れな答えしか返ってこない」——AIを試して、そう感じた方は多いと思います。原因はAIの頭の良し悪しではなく、単に材料を渡していないことにあります。
RAGとは「カンニングペーパーを渡す」こと
そこで登場するのが「RAG(ラグ)」という仕組みです。Retrieval-Augmented Generationの頭文字で、日本語では「検索拡張生成」と訳されます。「検索して(Retrieval)、それで強化した(Augmented)、文章の生成(Generation)」という意味です。
名前は物々しいのですが、やっていることは驚くほど単純です。

- さがす:質問された瞬間、社内フォルダから関係のありそうな資料を探す
- わたす:見つけた中身を、質問文にくっつけてAIに渡す
- こたえる:AIは渡された資料を読んで答える
つまり、AIが賢くなったわけではなく、その場でカンニングペーパーを渡しているだけです。
実は、多くの方がすでに手作業でやっています。ChatGPTに議事録をコピペして「要約して」と頼む——あれこそがRAGです。RAGは、その「探してコピペする」部分を自動化したもの、と考えていただければ実態に近いと思います。
「さがす」には、2つのやり方がある
3ステップのうち、実は1番目の「さがす」が一番大事です。ここには大きく2つのやり方があります。
- 言葉で探す:「見積」と入力したら「見積」という文字が入った資料を拾う。エクスプローラーの検索と同じ考え方で、速くて確実です
- 意味の近さで探す:「安くしてほしいと言われた件」で探すと、「見積」も「値引き交渉」も拾ってくる。言葉が一致していなくても、意味が近ければ見つかります
後半で出てくる判断の話は、突き詰めると「この探し方をどう選ぶか」に行き着きます。今は「探し方には種類がある」とだけ覚えていただければ十分です。
探し方が下手だと、RAGは効かない
ここがRAGの一番の弱点です。AIは、探してきた資料しか読みません。 どれだけ賢いAIを使っても、探す係が失敗したら答えようがないのです。
ですから実務で効いてくるのは、AIの性能よりも資料の置き方です。ファイル名が「新規テキスト(3).docx」「資料_最新_修正版_final2.xlsx」ばかりのフォルダでは、どんなAIを入れても成果は出ません。人間が探せないものは、AIにも探せないからです。
私たちがFolderOSで「まずフォルダを整えるところから」とお伝えしているのは、こういう理由です。AI導入の成否は、導入前の地味な準備でほぼ決まります。
ここでよく出る、2つの疑問
ブートキャンプでこの説明をすると、必ず出てくる疑問が2つあります。どちらも当然の疑問です。
疑問1:資料を全部渡してしまえばいいのでは?
できるならそれが一番です。探す必要がなくなりますから。
ただ、AIが一度に読める量には上限があります。最新のAIでもせいぜい本1〜2冊分で、10年分の書類はとても入りません。人間で言えば、机に広げられる書類の枚数に限りがあるのと同じです。
だから「関係のありそうな数枚だけ」を選ぶ必要がある。その「選ぶ係」がRAGです。
疑問2:AIに覚えさせてしまえばいいのでは?
AI自体に自社の情報を覚え込ませる方法もあります(ファインチューニングと呼ばれます)。ただし中小企業には、まず向きません。
| 覚えさせる(ファインチューニング) | その場で渡す(RAG) | |
|---|---|---|
| 費用 | 高額 | 比較的安い |
| 資料を1件直したら | 作業をやり直し | ファイルを差し替えるだけ |
| 反映の速さ | 時間がかかる | 次の質問から反映 |
社内の資料は毎日増えて、毎日変わります。変化に追いつけるかどうかで、RAGに軍配が上がるというのが実情です。
GraphRAGは、何を解こうとしたのか
さて、ようやく本題です。
先ほどの弱点——検索で拾えなかった資料のことは答えられない——には、もう一段やっかいな形があります。
たとえば「この資料全体の主題は何か」という質問。主題はどこか一行に書いてあるわけではありませんから、検索でその一行を拾うことができません。全体を読んで初めて分かる問いに、検索型のRAGは構造的に弱いのです。
GraphRAG(正確にはMicrosoftが提案した方式)は、ここを解きました。発想はこうです。
質問が来てから探すのではなく、あらかじめ文書全体を読み込んで、登場する人物や概念を抜き出し、関係の近いものをグループにまとめ、グループごとの要約を作っておく。質問が来たら、その要約を使って答える。だから「全体の主題は?」にも答えられます。
これは素直によく出来た発想です。私たちが見送ったのは、GraphRAGの出来が悪いからではありません。
判断の前に、2つの誤解を解く
誤解1:GraphRAGには専用のデータベースが必要
必要ありません。名前に「グラフ」とつくので身構えますが、Microsoft公式の実装にグラフ専用データベースは登場せず、処理結果は普通のファイルとして保存されます。
「導入=高価なデータベースの契約」ではないので、インフラ面の心配は不要です。ここは安心してよいところです。
誤解2:関係をたどって答えを探すのが本質
そういう使い方もありますが、GraphRAGが注目された理由は先ほどの「グループ要約」のほうです。そしてこの機能は、実は検索をしていません。あらかじめ作っておいた要約を順番にAIに読ませて、答えを組み立てています。
つまりGraphRAGの本命は、検索技術の進化というより「事前の作り込み」です。ここが分かると、次のコストの話が見えてきます。
それでも採用しなかった、3つの理由
理由1:コストが、お客様の規模に合わない
GraphRAGは、AIを呼び出す回数が普通のRAGと桁で違います。
- 準備の段階:文書を細かく刻んだ全ての断片に対して、登場人物の抽出・説明文の作成・関係の整理・グループ要約と、AIを何度も呼ぶ
- 質問の段階:1回の質問ごとに、多数のグループ要約をAIに読ませて点数をつける
普通のRAGが「検索1回+AI1回」で済むところに、これだけの処理が走ります。
FolderOSが想定しているのは、月額数千円でお使いいただく中小企業のお客様です。ファイルを1つ更新するたびに作り直しのコストがかかる仕組みは、この価格帯には乗りません。 技術的にできるかどうかではなく、事業として成立するかという問題でした。
理由2:速さの要件と、真逆を向いている
FolderOSは、前半でご説明した「言葉で探す」方式を採っていて、AIを通さずに0.3秒以内で検索結果を返す設計にしています。ファイル一覧の表示は0.2秒以内です。
「フォルダを開く」という毎日の動作の代わりに使っていただくツールなので、速さそのものが価値です。数秒待たされるなら、お客様は結局いつものエクスプローラーを開きます。
一方、GraphRAGの本命機能は、質問のたびに多数の要約をAIに読ませます。賢さと引き換えに待ち時間を差し出す設計で、私たちが守りたいものと方向が逆でした。
理由3:要約は、AIの中ではなく人が読める場所に置きたい
これが一番大きな理由かもしれません。

GraphRAGは、AIが作った要約をシステムの内部に持ちます。精度は上がりますが、中身を人が確認しにくいという性質があります。
FolderOSは、同じ目的——「今うちの案件どうなってる?」といった全体を問う質問に答えること——を、別の方法で解いています。会社フォルダの中に決まった置き場所を作り、議事録や決定事項を、人がそのまま読めるテキストファイルとして書き溜める。朝礼で使うのは、そのファイルです。
手法としては、はるかに原始的です。ですが中小企業の現場では、こちらのほうが強いと考えました。
- 社長がご自分の目で中身を確認できる
- 間違っていたら、その場で直せる
- 担当者が辞めても、ファイルは会社に残る
- 「AIが何を根拠にそう言ったのか」がファイル名で分かる
精度よりも、確認できることのほうが価値が高い場面がある。 私たちはそう判断しました。
では、いつなら採用するのか
見送りは「永久に使わない」という意味ではありません。次の条件が揃えば、判断は変わります。
| 条件 | 変わること |
|---|---|
| AIの利用料が今の10分の1程度になる | 理由1(コスト)が消える |
| お客様の文書量が、人の手で書ける要約では追いつかない規模になる | 理由3(人が読める)が崩れる |
| 「文書全体の主題」を問う使い方が、実際のご利用状況から確認できる | そもそもの必要性が生まれる |
条件を先に書いておくことには意味があります。技術の選定は一度きりの決断ではなく、前提が変わったら見直すものだからです。「前に検討したから」で思考を止めないための、自分たちへの約束でもあります。
では、御社は何から始めればいいのか
ここまで「うちは採用しませんでした」という話ばかりでしたので、最後に「では自分の会社は何をすればいいのか」にお答えします。
RAGの導入には、大きく3つの段階があります。いきなり3段目から始めないことが、一番大事なコツです。
1段目:まず試す(今日できます)
GoogleのNotebookLMのようなサービスに、資料をそのまま放り込むだけです。それだけで、その資料について質問できるようになります。これも立派なRAGです。無料で試せますので、今日の午後にでも始められます。
正直に申し上げると、「RAGを構築したい」というご相談の多くは、ここで解決します。 実際に困りごとを詳しくうかがうと、わざわざ作る必要がなかった、というケースが少なくありません。まずここで「何が足りないか」を掴んでください。
2段目:業務システムに組み込む
「部署ごとに見えてよい資料を分けたい」「基幹システムから呼び出したい」など、既製サービスでは届かない要件が出てきた段階です。
この段階は、ゼロから作る必要はありません。検索の仕組みを肩代わりしてくれる既製の部品が揃っているので、2〜4週間程度で形になります。
3段目:自社に合わせて作り込む
速度、コスト、外部にデータを出さないこと——譲れない条件がはっきりしている場合は、自社仕様で作る価値が出てきます。私たちのFolderOSはこの段階にあり、だからこそ本記事のような取捨選択が必要になりました。
逆に言えば、1段目・2段目を飛ばしてここから始めると、何を作るべきか分からないまま作ることになります。
最後に、費用の話で誤解されやすいこと
RAGの構築というと、AIの高度な開発を思い浮かべる方が多いのですが、実際の手間の8割は書類の下ごしらえです。
- スキャンしたPDFは、画像なので文字が入っていない
- Excelの結合セルは、そのままでは意味が読み取れない
- 同じ内容の資料が、あちこちに違うファイル名で置かれている
そしてもう一つ。思うような答えが返ってこない時、原因の9割はAIではなく「探す」側にあります。 モデルをより高性能なものに変えても、たいてい解決しません。まず、その質問を検索窓にそのまま入れて、正解の資料が出てくるかをご自分の目で確かめてみてください。出てこなければ、AIにも見つけられません。
技術は「優れているか」ではなく「合うか」で選ぶ
「○○は使ったほうがいいですか」というご質問に、一般論での答えはありません。
判断すべきなのは「その技術が優れているか」ではなく、「今の自分たちの条件に合うか」です。条件とは、価格帯であり、速さの要件であり、実際に使う人が誰かということです。
GraphRAGは優れた技術です。そして私たちのプロダクトには、今のところ合いませんでした。この2つは矛盾しません。
新しい技術の名前を聞くたびに焦る必要はない——ブートキャンプでお伝えしたかったのは、結局そういうことでした。自社の条件さえはっきりしていれば、流行に振り回されずに「うちには要りません」と言えるようになります。
この「合うかどうかで選ぶ」という判断軸は、モデル選びでも同じです。各モデルの実力とコストは 主要AIモデル ベンチマーク徹底比較 で比較しています。まず手を動かして試したい方は、Claude CodeからCodexに指示を出す もあわせてどうぞ。
AppTalentHubは、中小企業向けのAI業務ツール「FolderOS」を開発しています。AI活用の進め方や、社内でのAI人材育成についてのご相談も承っております。


