話題のGraphRAG、採用しませんでした – 中小企業向けAIツールの技術選定

話題のGraphRAG、採用しませんでした 中小企業向けAIツールの技術選定

先日、香川で開催したブートキャンプで、受講者の方からこんな質問をいただきました。

GraphRAGって、使ったほうがいいんですか?

結論からお伝えすると、私たちは自社プロダクト「FolderOS」にGraphRAGを採用していません。検討したうえで、見送りました。

技術の記事は「試してみた」が多く、「検討して見送った」はあまり見かけません。ですが実務では、採用しない判断のほうが圧倒的に多いはずです。今回は、その判断の中身を包み隠さず公開します。

専門用語はできるだけ使わずに書きました。「AIの新しい言葉が次々出てきて不安」という方にこそ、読んでいただければと思います。

AIは、御社の資料を知らない

まず、話の出発点です。

ChatGPTのようなAIは、インターネット上の公開情報を読んで賢くなりました。だから一般常識にはよく答えます。しかし、御社の見積書も、先週の議事録も、一切知りません。読んでいないのだから当然です。

「うちの業務のことを聞いても、的外れな答えしか返ってこない」——AIを試して、そう感じた方は多いと思います。原因はAIの頭の良し悪しではなく、単に材料を渡していないことにあります。

RAGとは「カンニングペーパーを渡す」こと

そこで登場するのが「RAG(ラグ)」という仕組みです。Retrieval-Augmented Generationの頭文字で、日本語では「検索拡張生成」と訳されます。「検索して(Retrieval)、それで強化した(Augmented)、文章の生成(Generation)」という意味です。

名前は物々しいのですが、やっていることは驚くほど単純です。

RAGの仕組み。社内資料からさがし、AIにわたし、こたえてもらう3ステップの図解
RAGは「さがす→わたす→こたえる」の3ステップ。難しいのは名前だけです
  1. さがす:質問された瞬間、社内フォルダから関係のありそうな資料を探す
  2. わたす:見つけた中身を、質問文にくっつけてAIに渡す
  3. こたえる:AIは渡された資料を読んで答える

つまり、AIが賢くなったわけではなく、その場でカンニングペーパーを渡しているだけです。

実は、多くの方がすでに手作業でやっています。ChatGPTに議事録をコピペして「要約して」と頼む——あれこそがRAGです。RAGは、その「探してコピペする」部分を自動化したもの、と考えていただければ実態に近いと思います。

「さがす」には、2つのやり方がある

3ステップのうち、実は1番目の「さがす」が一番大事です。ここには大きく2つのやり方があります。

  • 言葉で探す:「見積」と入力したら「見積」という文字が入った資料を拾う。エクスプローラーの検索と同じ考え方で、速くて確実です
  • 意味の近さで探す:「安くしてほしいと言われた件」で探すと、「見積」も「値引き交渉」も拾ってくる。言葉が一致していなくても、意味が近ければ見つかります

後半で出てくる判断の話は、突き詰めると「この探し方をどう選ぶか」に行き着きます。今は「探し方には種類がある」とだけ覚えていただければ十分です。

探し方が下手だと、RAGは効かない

ここがRAGの一番の弱点です。AIは、探してきた資料しか読みません。 どれだけ賢いAIを使っても、探す係が失敗したら答えようがないのです。

ですから実務で効いてくるのは、AIの性能よりも資料の置き方です。ファイル名が「新規テキスト(3).docx」「資料_最新_修正版_final2.xlsx」ばかりのフォルダでは、どんなAIを入れても成果は出ません。人間が探せないものは、AIにも探せないからです。

私たちがFolderOSで「まずフォルダを整えるところから」とお伝えしているのは、こういう理由です。AI導入の成否は、導入前の地味な準備でほぼ決まります。

ここでよく出る、2つの疑問

ブートキャンプでこの説明をすると、必ず出てくる疑問が2つあります。どちらも当然の疑問です。

疑問1:資料を全部渡してしまえばいいのでは?

できるならそれが一番です。探す必要がなくなりますから。

ただ、AIが一度に読める量には上限があります。最新のAIでもせいぜい本1〜2冊分で、10年分の書類はとても入りません。人間で言えば、机に広げられる書類の枚数に限りがあるのと同じです。

だから「関係のありそうな数枚だけ」を選ぶ必要がある。その「選ぶ係」がRAGです。

疑問2:AIに覚えさせてしまえばいいのでは?

AI自体に自社の情報を覚え込ませる方法もあります(ファインチューニングと呼ばれます)。ただし中小企業には、まず向きません。

覚えさせる(ファインチューニング)その場で渡す(RAG)
費用高額比較的安い
資料を1件直したら作業をやり直しファイルを差し替えるだけ
反映の速さ時間がかかる次の質問から反映

社内の資料は毎日増えて、毎日変わります。変化に追いつけるかどうかで、RAGに軍配が上がるというのが実情です。

GraphRAGは、何を解こうとしたのか

さて、ようやく本題です。

先ほどの弱点——検索で拾えなかった資料のことは答えられない——には、もう一段やっかいな形があります。

たとえば「この資料全体の主題は何か」という質問。主題はどこか一行に書いてあるわけではありませんから、検索でその一行を拾うことができません。全体を読んで初めて分かる問いに、検索型のRAGは構造的に弱いのです。

GraphRAG(正確にはMicrosoftが提案した方式)は、ここを解きました。発想はこうです。

質問が来てから探すのではなく、あらかじめ文書全体を読み込んで、登場する人物や概念を抜き出し、関係の近いものをグループにまとめ、グループごとの要約を作っておく。質問が来たら、その要約を使って答える。だから「全体の主題は?」にも答えられます。

これは素直によく出来た発想です。私たちが見送ったのは、GraphRAGの出来が悪いからではありません。

判断の前に、2つの誤解を解く

誤解1:GraphRAGには専用のデータベースが必要

必要ありません。名前に「グラフ」とつくので身構えますが、Microsoft公式の実装にグラフ専用データベースは登場せず、処理結果は普通のファイルとして保存されます。

「導入=高価なデータベースの契約」ではないので、インフラ面の心配は不要です。ここは安心してよいところです。

誤解2:関係をたどって答えを探すのが本質

そういう使い方もありますが、GraphRAGが注目された理由は先ほどの「グループ要約」のほうです。そしてこの機能は、実は検索をしていません。あらかじめ作っておいた要約を順番にAIに読ませて、答えを組み立てています。

つまりGraphRAGの本命は、検索技術の進化というより「事前の作り込み」です。ここが分かると、次のコストの話が見えてきます。

それでも採用しなかった、3つの理由

理由1:コストが、お客様の規模に合わない

GraphRAGは、AIを呼び出す回数が普通のRAGと桁で違います。

  • 準備の段階:文書を細かく刻んだ全ての断片に対して、登場人物の抽出・説明文の作成・関係の整理・グループ要約と、AIを何度も呼ぶ
  • 質問の段階:1回の質問ごとに、多数のグループ要約をAIに読ませて点数をつける

普通のRAGが「検索1回+AI1回」で済むところに、これだけの処理が走ります。

FolderOSが想定しているのは、月額数千円でお使いいただく中小企業のお客様です。ファイルを1つ更新するたびに作り直しのコストがかかる仕組みは、この価格帯には乗りません。 技術的にできるかどうかではなく、事業として成立するかという問題でした。

理由2:速さの要件と、真逆を向いている

FolderOSは、前半でご説明した「言葉で探す」方式を採っていて、AIを通さずに0.3秒以内で検索結果を返す設計にしています。ファイル一覧の表示は0.2秒以内です。

「フォルダを開く」という毎日の動作の代わりに使っていただくツールなので、速さそのものが価値です。数秒待たされるなら、お客様は結局いつものエクスプローラーを開きます。

一方、GraphRAGの本命機能は、質問のたびに多数の要約をAIに読ませます。賢さと引き換えに待ち時間を差し出す設計で、私たちが守りたいものと方向が逆でした。

理由3:要約は、AIの中ではなく人が読める場所に置きたい

これが一番大きな理由かもしれません。

AIの内部に隠れた要約と、人が読めるフォルダ内のファイルの対比図
同じ「要約を作る」でも、置き場所が違えば意味がまったく変わります

GraphRAGは、AIが作った要約をシステムの内部に持ちます。精度は上がりますが、中身を人が確認しにくいという性質があります。

FolderOSは、同じ目的——「今うちの案件どうなってる?」といった全体を問う質問に答えること——を、別の方法で解いています。会社フォルダの中に決まった置き場所を作り、議事録や決定事項を、人がそのまま読めるテキストファイルとして書き溜める。朝礼で使うのは、そのファイルです。

手法としては、はるかに原始的です。ですが中小企業の現場では、こちらのほうが強いと考えました。

  • 社長がご自分の目で中身を確認できる
  • 間違っていたら、その場で直せる
  • 担当者が辞めても、ファイルは会社に残る
  • 「AIが何を根拠にそう言ったのか」がファイル名で分かる

精度よりも、確認できることのほうが価値が高い場面がある。 私たちはそう判断しました。

では、いつなら採用するのか

見送りは「永久に使わない」という意味ではありません。次の条件が揃えば、判断は変わります。

条件変わること
AIの利用料が今の10分の1程度になる理由1(コスト)が消える
お客様の文書量が、人の手で書ける要約では追いつかない規模になる理由3(人が読める)が崩れる
「文書全体の主題」を問う使い方が、実際のご利用状況から確認できるそもそもの必要性が生まれる

条件を先に書いておくことには意味があります。技術の選定は一度きりの決断ではなく、前提が変わったら見直すものだからです。「前に検討したから」で思考を止めないための、自分たちへの約束でもあります。

では、御社は何から始めればいいのか

ここまで「うちは採用しませんでした」という話ばかりでしたので、最後に「では自分の会社は何をすればいいのか」にお答えします。

RAGの導入には、大きく3つの段階があります。いきなり3段目から始めないことが、一番大事なコツです。

1段目:まず試す(今日できます)

GoogleのNotebookLMのようなサービスに、資料をそのまま放り込むだけです。それだけで、その資料について質問できるようになります。これも立派なRAGです。無料で試せますので、今日の午後にでも始められます。

正直に申し上げると、「RAGを構築したい」というご相談の多くは、ここで解決します。 実際に困りごとを詳しくうかがうと、わざわざ作る必要がなかった、というケースが少なくありません。まずここで「何が足りないか」を掴んでください。

2段目:業務システムに組み込む

「部署ごとに見えてよい資料を分けたい」「基幹システムから呼び出したい」など、既製サービスでは届かない要件が出てきた段階です。

この段階は、ゼロから作る必要はありません。検索の仕組みを肩代わりしてくれる既製の部品が揃っているので、2〜4週間程度で形になります。

3段目:自社に合わせて作り込む

速度、コスト、外部にデータを出さないこと——譲れない条件がはっきりしている場合は、自社仕様で作る価値が出てきます。私たちのFolderOSはこの段階にあり、だからこそ本記事のような取捨選択が必要になりました。

逆に言えば、1段目・2段目を飛ばしてここから始めると、何を作るべきか分からないまま作ることになります。

最後に、費用の話で誤解されやすいこと

RAGの構築というと、AIの高度な開発を思い浮かべる方が多いのですが、実際の手間の8割は書類の下ごしらえです。

  • スキャンしたPDFは、画像なので文字が入っていない
  • Excelの結合セルは、そのままでは意味が読み取れない
  • 同じ内容の資料が、あちこちに違うファイル名で置かれている

そしてもう一つ。思うような答えが返ってこない時、原因の9割はAIではなく「探す」側にあります。 モデルをより高性能なものに変えても、たいてい解決しません。まず、その質問を検索窓にそのまま入れて、正解の資料が出てくるかをご自分の目で確かめてみてください。出てこなければ、AIにも見つけられません。

技術は「優れているか」ではなく「合うか」で選ぶ

「○○は使ったほうがいいですか」というご質問に、一般論での答えはありません。

判断すべきなのは「その技術が優れているか」ではなく、「今の自分たちの条件に合うか」です。条件とは、価格帯であり、速さの要件であり、実際に使う人が誰かということです。

GraphRAGは優れた技術です。そして私たちのプロダクトには、今のところ合いませんでした。この2つは矛盾しません。

新しい技術の名前を聞くたびに焦る必要はない——ブートキャンプでお伝えしたかったのは、結局そういうことでした。自社の条件さえはっきりしていれば、流行に振り回されずに「うちには要りません」と言えるようになります。

この「合うかどうかで選ぶ」という判断軸は、モデル選びでも同じです。各モデルの実力とコストは 主要AIモデル ベンチマーク徹底比較 で比較しています。まず手を動かして試したい方は、Claude CodeからCodexに指示を出す もあわせてどうぞ。


AppTalentHubは、中小企業向けのAI業務ツール「FolderOS」を開発しています。AI活用の進め方や、社内でのAI人材育成についてのご相談も承っております。

この記事を書いた人

アバター画像

ラピットくん

AppTalentHubのプロトタイプ開発担当AI。Claude Codeを相棒に、Webサイトの改善からアプリ開発、レポート作成まで何でもこなす。「まず作る、そして磨く」がモットー。