ラピットくん 
自社の FolderOS に、「ローカル AI（Gemma）を入れる」という画面があります。Ollama という部品と、Google の Gemma というモデルを、お客さんのパソコンに入れてもらう画面です。
で、10月に現場で試してもらったら、「Ollama」も「gemma3:4b」も「グラフィックボード」も通じませんでした。自分のパソコンにどの AI が合うのか、判断する材料が画面になかったんです。
そのころ、Magnitude というオープンソースを知りました。パソコンを見て、合うモデルを選んで、そのパソコン用に速くする道具です。仕組みを調べて、ついでに手元のパソコンで、モデルの大きさごとに何 GB 使うかも測りました。
ローカルAIの困りごとは、速さより「選べない」
ローカル AI は、インターネットに出さずに、自分のパソコンの中で動く AI です。会社の書類を外に送らなくていいので、データがどこに何日残るかを気にしなくて済みます。
ただ、入れる前に決めることが多い。
- モデルの種類（Gemma、Qwen など）
- 大きさ（1B、4B、12B……数字が大きいほど賢くて重い）
- 量子化（モデルを軽く縮める度合い。4bit、8bit など）
これを、パソコンのメモリと GPU に合わせて選びます。合わないものを入れると、動かないか、動いても遅い。
FolderOS は、ここを「4B 固定」で逃げていました。そのせいで、CPU しかない ARM 版の Surface では、1回の答えに 64〜116秒かかりました。逆に、強いパソコンを持っている人に、もっと賢いモデルを勧めることもできていません。
Magnitudeがやっていること
Magnitude は、GitHub で公開されている推論エンジン（モデルを実際に動かす部分）です。ライセンスは Apache-2.0、10月27日時点でスターは約7,300。Mac・Windows・Linux 用のデスクトップアプリとして配っています。
やっていることは3段です。
1. パソコンを診断する
対応ハードウェアを見ると、Apple Silicon なら Metal、Windows と Linux なら NVIDIA（CUDA）か、AMD・Intel の GPU（Vulkan）、なければ CPU だけで動かします。どれで動くかを先に判定します。
2. 合うモデルを最大5つ勧める
Discover という画面が、そのパソコンに収まるモデルを最大5件出します。最初は「Balanced」。そこから速さ寄り（Fastest／Faster）か、賢さ寄り（Smarter／Smartest）に寄せます。
候補には4つの数字が付きます。
| 項目 | 中身 |
|---|---|
| Intelligence | ベンチマークから作った指数。正答率ではない |
| Speed | このパソコンでの推定の生成速度 |
| Memory | 動かすときに使うメモリ。ダウンロードの大きさとは別 |
| Fidelity | 量子化の度合い。低いほど軽く、高いほど元のモデルに近い |
3. 入れたモデルを、そのパソコン用に速くする
ダウンロードのときに、最大1分ほど実機で「計算の分け方」を何通りか試して、いちばん速いものを選びます。出力は変えない範囲で、です。
あわせて、投機的デコーディングを自動で付けます。小さなモデルが先に何語か下書きして、本体のモデルがまとめて確かめる方式です。合っていればそのまま採用するので、本体が1語ずつ考えるより速くなります。
AI エージェントからは、OpenAI 互換と Anthropic 互換の API で呼べます。Claude Code、Codex、Cline などは、アプリが接続の設定を書いてくれます。
「賢い」の中身は、人ではなくパソコンに合わせること
調べる前は、使う人の好みを覚えて合わせてくれる、という意味のパーソナライズだと思っていました。違いました。
合わせている相手は、パソコンです。
メモリが何 GB あるか。GPU は何か。それに対して、収まるモデルを選び、速く動く分け方を探す。使った履歴から好みを学ぶ仕組みは、公開情報には出てきません。
で、このうち「収まるモデルを選ぶ」は、Magnitude がなくても自分でできます。要るのは、モデルごとに何 GB 使うかの数字だけです。
▼関連記事
【2026年9月版】主要AIモデル ベンチマーク徹底比較——Claude Fable 5.1 と GPT-6 Astra、Muse Spark 1.3 どう使い分けるか
「Ollamaより2倍速い」は、どこまで本当か
公式サイトの見出しは「Ollama より2倍以上速い」です。ベンチマークのページに条件が全部書いてあったので、読みました。
| 機材 | 比較相手 | 読み込み（prefill） | 生成（decode） |
|---|---|---|---|
| Mac mini（M4 Pro・48GB） | Ollama（MLX） | 平均 1.32倍 | 平均 2.19倍 |
| NVIDIA DGX Spark（128GB） | Ollama（llama.cpp） | 平均 1.34倍 | 平均 2.17倍 |
11モデル、約4bit、64,000トークンを読ませて256トークン書かせた結果です。
数字は条件つきで読む必要があります。
- 測った機材は、この2台だけです。Windows の結果も、CPU だけの結果もありません
- 遅かった例も載っています。DGX Spark の Nemotron 3.5 は、生成が 0.76倍でした
- Mac の Gemma 4 の一部は、Ollama 側の下書き（投機）がほとんど動いていない状態との比較だ、と注記があります
- 答えの質は比べていません
要するに、「高めのパソコンで、長い文章を読ませると、書く速さが2倍前後」です。会社でよく見る、GPU のないノートパソコンでどうなるかは、まだ出ていません。
それでも、注記まで自分で書いて、計測の道具も inference/ に置いて再現できるようにしている。この出し方は信用していいと思いました。
手元のパソコンで、何GB使うか測りました
Magnitude の「収まるか」の判定を、自分でやるための数字です。Ollama で Gemma 3 を3つの大きさで読み込んで、実際に何 GB 使うかを見ました。
測ったパソコンは、Intel Core Ultra 9 285H・メモリ 31.4GB・Windows 11 のノートパソコンです。グラフィックスは CPU に内蔵の Intel Arc で、専用のグラボはありません。Ollama は 0.31.1。読める文章の長さ（コンテキスト）は 8,192 トークンにそろえて、ollama ps の数字を読みました。
| 大きさ | ダウンロード | 動かすのに使うメモリ | 読み込みにかかった時間 |
|---|---|---|---|
| Gemma 3（1B） | 約 0.8GB | 約 1.0GB | 2.5秒 |
| Gemma 3（4B） | 約 3.4GB | 約 3.0GB | 11.3秒 |
| Gemma 3（12B） | 約 8.2GB | 約 8.4GB | 35.3秒 |
わかったことは3つです。
1. 使うメモリは、ダウンロードの大きさとほぼ同じ
4B なら約 3GB、12B なら約 8.4GB。ダウンロードの数字を見れば、だいたいの見当はつきます。
2. 8GB のパソコンなら、4B までは入る計算
Windows と、開いている Word・Excel・ブラウザで、メモリはそれなりに使っています。8GB のパソコンで 12B（8.4GB）は無理です。4B（3.0GB）なら入る計算です。ただ、8GB の実機ではまだ試していません。16GB あれば 12B も入ります。
3. 内蔵のグラフィックスは、使われなかった
3つとも「100% CPU」でした。Intel Arc はこの組み合わせでは使われていません。「グラボあり」と言えるのは、NVIDIA などの専用のグラボを積んでいるときだけ、と考えたほうが安全です。
速さのほうは、まだ1つしか実測がありません。ARM 版の Surface で 4B を動かして、FolderOS の書類の見立てが 29〜36秒でした（高速化の工夫を入れたあと）。
▼関連記事
バイブコーディング時代のPC選びはどれ？ 【2026/5】
Magnitudeを会社で使う前に、確かめること
試してみる価値はあります。ただ、会社のパソコンに入れるなら、先に3つ見ておいてください。
1. ARM 版の Windows は、対応表に無い
Hardware のページの表には、Windows は x64 しか載っていません。Surface などの ARM 版を使っているなら、動くかどうかから確かめる必要があります。
2. 勧める順番の決め方が、公開されていない
Intelligence の指数が、どのベンチマークから来ているかの記載がありません。速さも推定です。「なぜこのモデルを勧めたのか」を社内で説明したいなら、上の表のように、自分で測った数字を手元に持っておくほうが確実です。
3. まだ若い
GitHub に作られたのは2026年6月です。Ollama とは使われてきた年数が違います。仕事で毎日使うなら、当面は Ollama と並べて様子を見るくらいがちょうどいいです。
ローカルAIを入れる前に、見ておく3つ
Magnitude を使っても使わなくても、ローカル AI を会社で入れるなら、この順で見ると迷いません。
- メモリ：Windows なら、タスクマネージャーの「パフォーマンス」→「メモリ」で見られます。8GB なら 4B まで、16GB なら 12B まで、が上の表からの目安です
- 専用のグラボがあるか：同じ画面の「GPU」に、NVIDIA などの名前があるか。内蔵のグラフィックスだけなら、CPU で動くと思っておく
- ARM 版か x64 版か：設定 →「システム」→「バージョン情報」の「システムの種類」で見られます。ARM 版は、対応していない道具がまだあります
「どのモデルが一番賢いか」は、そのあとで十分です。
うちの FolderOS も、この3つをパソコンに聞いて、「速さ優先／ふつう／賢さ優先」から選んでもらう画面を設計しているところです。モデルの名前は、見せないつもりです。
▼関連記事
韓国の銀行を狙った攻撃は、Claude Codeの作業ノートから手口がバレました——個人でできることと、FolderOSで守れること
参考
- Magnitude 公式サイト
- magnitudedev/magnitude（GitHub）
- Hardware（Magnitude ドキュメント）
- Models（Magnitude ドキュメント）
- Benchmarks（Magnitude）
- API Endpoints（Magnitude ドキュメント）
- gemma3 のタグ一覧（Ollama）
- magnitudedev/magnitude の紹介記事（集創堂 テックブログ）
2026年10月27日時点の公開情報と、同じ日の手元の計測によります。
社内のAI、どこで動かすかから相談できます
クラウドの AI に書類を送っていいのか。ローカルで動かすなら、どのパソコンで何が動くのか。導入の前の、決め方から一緒に考えます。
