toolkitbox

~/ / AI記事 / ローカルLLM × VPS / 小さなVPSでOllamaのメモリを見張る

小さなVPSでOllamaのメモリを見張る

小さなサーバーではメモリが限界になります。そしてOllamaは、答えたあともモデルをメモリに置いたままにします。この記事では、何が読み込まれているか、どれだけの間残るか、Ollamaが同時に扱うモデルとリクエストの数、メモリ使用量を変える設定を順に見ます。以下の既定値はすべて公式FAQからの引用です。

この記事の末尾に、アフィリエイト広告(PR)のリンクがあります。

公開: · 約4分で読めます · 2026-10-27に、Ollama公式ドキュメントと照らして事実を確認しました。既定値はバージョンによって変わることがあるため、お使いのバージョンのFAQを確認してください。

読み込まれているものを見る

FAQでは、いまメモリに読み込まれているモデルを見るには ollama ps を使うとあります。モデルがどこに載っているかは、PROCESSOR列でわかります。

PROCESSORの表示FAQが示す意味
100% GPUモデルはすべてGPUに読み込まれています。
100% CPUモデルはすべてシステムメモリに読み込まれています。
48%/52% CPU/GPUモデルは一部がGPUに、一部がシステムメモリに読み込まれています。

GPUのないVPSでは、100% CPU と表示されるのが想定どおりの状態です。モデルはサーバーのメモリに載っています。

モデルがメモリに残る時間

FAQによると、既定ではモデルは5分間メモリに置かれたあとで解放されます。この時間は、サーバー全体でも、1回のリクエストごとでも変えられます。

やりたいことFAQが示す方法
モデルをいま解放するollama stop llama3.2
モデルを読み込んだままにする/api/generate または /api/chat へのリクエストで、keep_alive に負の数(たとえば -1)を指定して送ります。
答えた直後に解放するkeep_alive に 0 を指定して送ります。
別の時間にするkeep_alive には 10m や 24h のような時間の文字列や、3600 のような秒数も指定できます。
サーバー全体で設定するサーバーの起動時に環境変数 OLLAMA_KEEP_ALIVE を設定します。指定できる値の種類は同じです。リクエストの keep_alive は、こちらより優先されます。

ここは私たちの読み方であり、文書に書かれていることではありません。同じサーバーでDifyやチャット画面など別のものも動かしている場合、読み込まれたままのモデルは、その分のメモリを他から遠ざけます。時間を短くすると、メモリは早く空きますが、次のリクエストではモデルをもう一度読み込む必要があります。その読み込みにかかる時間は、私たちは計測していません。

複数のモデル、複数のリクエスト

FAQには、3つの上限と1つのルールが書かれています。ほかのモデルが読み込まれているときに、新しいモデルが空きメモリに収まらない場合は、読み込めるようになるまで新しいリクエストが待たされ、使われていないモデルは場所を空けるために解放されます。

下の見積もりツールには並列リクエストの欄があるので、この設定を上げると合計がどう変わるかを確かめられます。

設定FAQの記載
OLLAMA_MAX_LOADED_MODELS空きメモリに収まる限りで、同時に読み込めるモデルの最大数です。既定値は、GPUの数の3倍、CPU推論では3です。
OLLAMA_NUM_PARALLEL各モデルが同時に処理する並列リクエストの最大数です。既定値は1です。必要なRAMは、OLLAMA_NUM_PARALLEL に OLLAMA_CONTEXT_LENGTH を掛けた値に比例して増えます。
OLLAMA_MAX_QUEUEOllamaが混み合っているときに待たせるリクエストの最大数で、これを超えると受け付けなくなります。既定値は512です。拒否されたリクエストには503エラーが返ります。

試してみる: Local LLM Memory Estimator

モデル

Ollamaのタグ qwen3:8b、量子化 Q4_K_M、ダウンロードサイズ 5.2 GB。

見積もり

モデルの重み
4.84 GiB
KVキャッシュ
0.56 GiB
予備
1.00 GiB
合計
6.41 GiB (6.88 GB)
収まる最小の一般的なメモリ容量
8 GiB

これは見積もりです。ランタイムの計算用バッファは含まれておらず、すべてのレイヤーでKVの形が同じであることを前提にしています。プランを選ぶ前に、実際に動かして測ってください。

モデルのデータは 2026-10-26 に確認しました。

出典: Ollama library · モデルの設定ファイル(config.json) · Ollama FAQ

すべてブラウザの中で動きます。アップロードはされません。

メモリ使用量を変える設定

設定FAQの記載
OLLAMA_CONTEXT_LENGTH既定では、Ollamaは4096 tokensのコンテキストウィンドウを使います。この環境変数で上書きでき、num_ctx はセッションごと、またはAPI経由で設定できます。
OLLAMA_KV_CACHE_TYPEK/Vキャッシュの量子化タイプです。既定値は f16 です。
OLLAMA_FLASH_ATTENTIONサーバーの起動時に 1 を設定すると、Flash Attentionが強制的にオンになります。FAQによると、バックエンドとデバイスが対応している場合、Ollamaは自動でオンにします。

サーバーの環境変数は、systemdのoverrideに書きます。手順は、VPSにOllamaを入れる記事で説明しています。各設定でお使いのサーバーのメモリがどれだけ減るかは、私たちは計測していません。設定を変えたあとは、ollama ps で確かめてください。

VPSを選ぶときは:AIで使う目で6社を見る(PR)

プランは、まずメモリ、次にモデルを置くディスク、そのあとCPUの順に見ます。ここでは、国内の6つのVPSを、AIを動かす目で見て、公式ページに書かれていることと、当サイトの見立てを並べました。

同じ運営者のサイト sabakore.com の「AI・LLM向けVPS診断」では、動かしたいモデルと月額の上限から、メモリに載るプランを料金の安い順に並べられます(GPUは使わず、CPUだけで動かす前提の診断です)。

sabakore.com のAI・LLM向けVPS診断を開く

評価のものさし

  • メモリ: いちばん大きいプランのメモリ。12GB以上なら○(Qwen3 14B が4,096トークンで約10.3 GiB。記事「VPSでローカルLLMを動かすのに必要なメモリ」の表)、8GB以上なら△(Qwen3 8B が約6.4 GiB)。
  • AIツールの入れやすさ: 公式ページに AI 用のテンプレートやスクリプトの記載があれば○、Docker の構築環境だけなら△、記載がなければ×(使えない、という意味ではありません)。
  • 料金と速さは評価しません。料金は変わり、CPUだけで動かしたときの速さは公式に数字がないためです。

公式ページで確認した日:

以下の6社の紹介は、アフィリエイト広告(PR)です。リンク先で申し込みがあると、当サイトの運営者に報酬が支払われます。並びは名前順で、報酬額は並びに関係ありません。評価は、各社の公式ページの記載(確認日は下に表示)だけにもとづく当サイトの見立てで、実際に動かして測ったものではありません。プランの内容や料金は変わるので、申し込む前に公式で確認してください。この記事は、これらのサービスでの動作を保証するものではありません。

  • ConoHa VPS (PR)

    メモリ○AIツールの入れやすさ○

    公式ページに書かれていること

    • 料金表のメモリは512MBから128GBまで(CPUは最大40コア)
    • スタートアップスクリプトで OpenClaw、Claude Code、n8n、Dify などを導入できると書かれている
    • GPUプランは、このページには記載なし(GPU用の案内は別のページ)

    当サイトの見立て

    メモリの選択肢が広く、AIツールを入れる仕組みも公式に用意されているので、「まず Dify や n8n を動かして試す」使い方と、大きめのモデルを載せたい使い方のどちらにも向きます。

    申し込む前に

    最小プランの書き方がページ内で食い違っています(料金表は512MB、FAQは1GB〜)。申し込む前に、いま選べるプランを公式で確認してください。CPUだけで動かしたときの速さは公式に数字がありません。

    ConoHa VPSの公式サイトで申し込む(PR)公式ページ

  • KAGOYA CLOUD VPS (PR)

    メモリ△AIツールの入れやすさ○

    公式ページに書かれていること

    • メモリは1GB・2GB・4GB・8GB(CPUは最大6コア、SSDは100GB〜800GB)
    • 「オープンソースのAI開発基盤DifyをVPSで手軽に導入」できると書かれ、Docker の構築済みサーバーもある
    • 日額・月額(月額上限あり)と年額の定額プランがある

    当サイトの見立て

    Dify を動かす用途が公式に想定されています。日額の料金から使えるので、「まず試して合わなければやめる」進め方がしやすい一方、メモリは8GBまでなので、載せられるモデルは8B級までが目安です。

    申し込む前に

    8GBでの Qwen3 8B は、4,096トークンの見積もりで約6.4 GiBです。コンテキストを長くする、同時に使う人を増やすと足りなくなります。GPUプランはこのページに記載がありません。

    KAGOYA CLOUD VPSの公式サイトで申し込む(PR)公式ページ

  • XServer VPS (PR)

    メモリ○AIツールの入れやすさ○

    公式ページに書かれていること

    • 料金表に載っているのは2GB・4GB・8GBの3プラン(NVMe SSD、8GBは6コア・400GB)。FAQには高負荷の用途向けに最大64GBのプランがあると書かれている
    • アプリイメージに Dify があり、FAQは用途の例として「AIツールのホスティング」を挙げている
    • GPUは、別サービスの「GPUサーバー」へのリンクがあるだけで、VPSのページには記載なし

    当サイトの見立て

    Dify のアプリイメージと「AIツールのホスティング」という用途が公式に書かれています。小さく始めて、必要になったら大きいプランへ、という使い方ができそうです。

    申し込む前に

    64GBのプランの内容や料金は、このページには載っていません。大きいモデルを載せたいときは、申し込む前に、そのプランが今も選べるかを公式で確認してください。

    XServer VPSの公式サイトで申し込む(PR)公式ページ

  • お名前.com VPS (PR)

    メモリ○AIツールの入れやすさ×

    公式ページに書かれていること

    • メモリは1GBから16GBまで(CPUは最大10コア、SSDは100GB〜1TB)
    • KVM の仮想化で、Linux 環境を使える
    • AI や Docker のテンプレートは、このページには記載なし

    当サイトの見立て

    16GB・10コア・1TBまで選べるので、自分でモデルを入れて動かす前提なら、メモリとディスクには余裕があります。AIツールの導入は自分で組み立てることになります。

    申し込む前に

    AI向けのテンプレートや手順は公式にありません。このサイトの「VPSにOllamaを入れて動かし続ける」の手順で自分で入れることになります。

    お名前.com VPSの公式サイトで申し込む(PR)公式ページ

  • クラウドVPS byGMO (PR)

    メモリ○AIツールの入れやすさ×

    公式ページに書かれていること

    • Vシリーズは1GB・2GB・4GB・6GB・8GB・12GB(CPUは最大7コア、ディスクは50GB〜800GB)
    • プランの月額料金とは別に、サーチャージ費が課金される
    • AI や Docker のテンプレートは、このページには記載なし

    当サイトの見立て

    12GBまで選べるので、8B級のモデルを長めのコンテキストで使いたいときの選択肢になります。AIツールは自分で入れる前提です。

    申し込む前に

    月額に加えてサーチャージ費がかかるので、実際の支払いは料金表より増えます。申し込む前に、合計の目安を公式で確認してください。

    クラウドVPS byGMOの公式サイトで申し込む(PR)公式ページ

  • さくらのVPS (PR)

    メモリ△AIツールの入れやすさ△

    公式ページに書かれていること

    • メモリは512MBから8GBまで(CPUは最大6コア、SSDは25GB〜400GB。オプションで最大800GB)
    • 用途の例に「AI / 機械学習用途」があり、推奨はメモリ16GB〜・SSD 100GB〜と書かれている(掲載プランの最大は8GB)
    • スタートアップスクリプトに Docker の構築環境がある。AI専用のテンプレートは記載なし。石狩・大阪・東京から選べる

    当サイトの見立て

    公式がAI用途の推奨に挙げる16GBには、掲載プランの最大(8GB)が届きません。4B級までの小さなモデルや、Dify だけを動かす使い方なら選べます。

    申し込む前に

    8GBまでのプランで、AI用途の公式の推奨(16GB〜)を満たすものは、このページにはありません。GPUプランも記載がありません。

    さくらのVPSの公式サイトで申し込む(PR)公式ページ

出典

次に読む