~/ / AI記事 / ローカルLLM × VPS / VPSでローカルLLMを動かすのに、メモリはどれだけ要るか:モデルファイルとKVキャッシュ
ローカルのモデルを動かすためにサーバーを借りる前に、どれだけメモリが要るかを知っておく必要があります。答えは2つの部分からなります。モデル本体と、会話の長さや同時に処理するリクエスト数に応じて増えるキャッシュです。この記事では、Ollamaライブラリ、Ollama FAQ、公式のモデル設定ファイルが示す内容をまとめ、よく使われる6つのモデルについてキャッシュを計算し、自分の数値でも試せるようにしました。
この記事の末尾に、アフィリエイト広告(PR)のリンクがあります。
公開: · 約6分で読めます · モデルのデータは 2026-10-26 に公式の情報源で確認しました。サイズや既定値は変わるので、プランを選ぶ前に確認してください。
1つめはモデルの重みで、ダウンロードするファイルとほぼ同じ量のメモリを使います。2つめはKVキャッシュで、コンテキスト内のテキストについてモデルがすでに計算したキーと値を保持します。Ollama FAQには、必要なRAMは OLLAMA_NUM_PARALLEL と OLLAMA_CONTEXT_LENGTH の積に比例して増えると書かれています。
キャッシュの大きさは、モデルの設定から求められます。2 × 層の数 × KVヘッドの数 × ヘッドの次元 × 1つの値のバイト数 で1トークンあたりのバイト数になり、これにコンテキスト長と並列リクエスト数を掛けます。f16では1つの値が2バイトです。層が36、KVヘッドが8、ヘッドの次元が128のQwen3 8Bでは、1トークンあたり 2 × 36 × 8 × 128 × 2 = 147,456 バイトです。4,096トークンなら576 MiB、32,768トークンなら4,608 MiBになります。この式は設定値からの当サイトの計算であり、Ollamaが公表している数値ではありません。
ダウンロードサイズと量子化は、Ollamaライブラリが各タグに表示しているものです。以下の6つのタグはいずれもQ4_K_M量子化として表示されています。層の数、KVヘッドの数、ヘッドの次元は、Hugging Face上の各モデルのconfig.jsonによります。
| モデル | ダウンロードサイズ (GB) | 層の数 | KVヘッド数 | ヘッドの次元 |
|---|---|---|---|---|
| Qwen3 0.6B | 0.523 | 28 | 8 | 128 |
| Qwen3 1.7B | 1.4 | 28 | 8 | 128 |
| Qwen3 4B | 2.5 | 36 | 8 | 128 |
| Qwen3 8B | 5.2 | 36 | 8 | 128 |
| Qwen3 14B | 9.3 | 40 | 8 | 128 |
| Mistral 7B (v0.3) | 4.4 | 32 | 8 | 128 |
Mistral 7Bの設定にはヘッドの次元が書かれていないため、隠れ層の大きさをアテンションヘッドの数で割った 4096 ÷ 32 = 128 としています。OllamaライブラリのQwen3 4Bのタグには、256Kのコンテキストウィンドウが記載されています。Hugging Face上のQwen3 4Bの2507リリースは、層の数、KVヘッドの数、ヘッドの次元が元のモデルと同じです。
上の式を使い、各モデルについて2つのコンテキスト長でのキャッシュと、4,096トークンでの推定合計を表にしました。合計は、重みと、一度に1リクエストの場合のf16のキャッシュと、OSやほかのサービスのための1 GiBの予備を足したものです。最後の列は、それが収まる最小の一般的なメモリサイズです。
| モデル | 4,096トークンでのKVキャッシュ (MiB) | 32,768トークンでのKVキャッシュ (MiB) | 4,096トークンでの推定合計 (GiB) | 収まる最小の一般的なメモリサイズ (GiB) |
|---|---|---|---|---|
| Qwen3 0.6B | 448 | 3584 | 1.92 | 2 |
| Qwen3 1.7B | 448 | 3584 | 2.74 | 4 |
| Qwen3 4B | 576 | 4608 | 3.89 | 4 |
| Qwen3 8B | 576 | 4608 | 6.41 | 8 |
| Qwen3 14B | 640 | 5120 | 10.29 | 12 |
| Mistral 7B (v0.3) | 512 | 4096 | 5.60 | 8 |
これらは推定であり、実測ではありません。4,096トークンでぎりぎり収まるモデルは、コンテキスト長を上げると収まらなくなります。32,768トークンでは、Qwen3 8Bのキャッシュだけで4,608 MiBになります。
下の計算ツールは、同じ式と同じデータを使っています。モデルを選ぶか自分で入力し、コンテキスト長、並列リクエスト数、キャッシュの種類、予備を設定して、検討中のプランのメモリを入力すると、推定が収まるかどうかがわかります。
試してみる: Local LLM Memory Estimator
これは見積もりです。ランタイムの計算用バッファは含まれておらず、すべてのレイヤーでKVの形が同じであることを前提にしています。プランを選ぶ前に、実際に動かして測ってください。
モデルのデータは 2026-10-26 に確認しました。
出典: Ollama library · モデルの設定ファイル(config.json) · Ollama FAQ
すべてブラウザの中で動きます。アップロードはされません。
プランは、まずメモリ、次にモデルを置くディスク、そのあとCPUの順に見ます。ここでは、国内の6つのVPSを、AIを動かす目で見て、公式ページに書かれていることと、当サイトの見立てを並べました。
同じ運営者のサイト sabakore.com の「AI・LLM向けVPS診断」では、動かしたいモデルと月額の上限から、メモリに載るプランを料金の安い順に並べられます(GPUは使わず、CPUだけで動かす前提の診断です)。
評価のものさし
公式ページで確認した日:
以下の6社の紹介は、アフィリエイト広告(PR)です。リンク先で申し込みがあると、当サイトの運営者に報酬が支払われます。並びは名前順で、報酬額は並びに関係ありません。評価は、各社の公式ページの記載(確認日は下に表示)だけにもとづく当サイトの見立てで、実際に動かして測ったものではありません。プランの内容や料金は変わるので、申し込む前に公式で確認してください。この記事は、これらのサービスでの動作を保証するものではありません。
メモリ○AIツールの入れやすさ○
公式ページに書かれていること
当サイトの見立て
メモリの選択肢が広く、AIツールを入れる仕組みも公式に用意されているので、「まず Dify や n8n を動かして試す」使い方と、大きめのモデルを載せたい使い方のどちらにも向きます。
申し込む前に
最小プランの書き方がページ内で食い違っています(料金表は512MB、FAQは1GB〜)。申し込む前に、いま選べるプランを公式で確認してください。CPUだけで動かしたときの速さは公式に数字がありません。
メモリ△AIツールの入れやすさ○
公式ページに書かれていること
当サイトの見立て
Dify を動かす用途が公式に想定されています。日額の料金から使えるので、「まず試して合わなければやめる」進め方がしやすい一方、メモリは8GBまでなので、載せられるモデルは8B級までが目安です。
申し込む前に
8GBでの Qwen3 8B は、4,096トークンの見積もりで約6.4 GiBです。コンテキストを長くする、同時に使う人を増やすと足りなくなります。GPUプランはこのページに記載がありません。
メモリ○AIツールの入れやすさ○
公式ページに書かれていること
当サイトの見立て
Dify のアプリイメージと「AIツールのホスティング」という用途が公式に書かれています。小さく始めて、必要になったら大きいプランへ、という使い方ができそうです。
申し込む前に
64GBのプランの内容や料金は、このページには載っていません。大きいモデルを載せたいときは、申し込む前に、そのプランが今も選べるかを公式で確認してください。
メモリ○AIツールの入れやすさ×
公式ページに書かれていること
当サイトの見立て
16GB・10コア・1TBまで選べるので、自分でモデルを入れて動かす前提なら、メモリとディスクには余裕があります。AIツールの導入は自分で組み立てることになります。
申し込む前に
AI向けのテンプレートや手順は公式にありません。このサイトの「VPSにOllamaを入れて動かし続ける」の手順で自分で入れることになります。
メモリ○AIツールの入れやすさ×
公式ページに書かれていること
当サイトの見立て
12GBまで選べるので、8B級のモデルを長めのコンテキストで使いたいときの選択肢になります。AIツールは自分で入れる前提です。
申し込む前に
月額に加えてサーチャージ費がかかるので、実際の支払いは料金表より増えます。申し込む前に、合計の目安を公式で確認してください。
メモリ△AIツールの入れやすさ△
公式ページに書かれていること
当サイトの見立て
公式がAI用途の推奨に挙げる16GBには、掲載プランの最大(8GB)が届きません。4B級までの小さなモデルや、Dify だけを動かす使い方なら選べます。
申し込む前に
8GBまでのプランで、AI用途の公式の推奨(16GB〜)を満たすものは、このページにはありません。GPUプランも記載がありません。
同じ運営者のサイト sabakore.com の関連記事(広告ではありません)