~/ / AI記事 / ローカルLLM × VPS / 自前のVPSでAIを動かす:必要なメモリの見積もりと、公開してはいけないもの
借りたVPSで言語モデルやAIアプリビルダーを動かすのは魅力的です。月額は固定で、データも自分で管理するサーバーに置けます。ただし、どのプランを選ぶかで動くかどうかが決まりますし、初期設定のままインストールすると、サービスがインターネットから到達できる状態になることがあります。この記事では、メモリ、CPUのみでの運用、ネットワークへの公開について、OllamaとDifyの公式ドキュメントに書かれていることをまとめました。料金を払う前にプランを選ぶ材料にしてください。
この記事の末尾に、アフィリエイト広告(PR)のリンクがあります。
公開: · 約6分で読めます · 2026-10-26時点の公式ドキュメントで確認しました。バージョンや既定値は変わるため、インストールの前に最新のドキュメントで確認してください。
モデルのダウンロードサイズは、そのモデルに必要なメモリの最小値であって、見積もりに使うべき量ではありません。Ollamaライブラリには、タグごとのダウンロードサイズが載っています。たとえば Llama 3.2 は、1bタグが1.3 GB、3bタグが2.0 GBで、どちらもコンテキストウィンドウは128Kです。
モデル本体に加えて、メモリはコンテキストに応じて増えます。Ollama FAQには、必要なRAMは OLLAMA_NUM_PARALLEL に OLLAMA_CONTEXT_LENGTH を掛けた値に比例すると書かれており、例として、2Kのコンテキストで4つの並列リクエストを処理すると8Kのコンテキストになり、追加のメモリが必要になるとしています。またFAQには、キーバリューキャッシュを q8_0 で量子化すると f16 のおよそ半分、q4_0 ではおよそ4分の1のメモリになるとも書かれています。
| モデルタグ | ダウンロードサイズ | コンテキストウィンドウ |
|---|---|---|
| llama3.2:1b | 1.3 GB | 128K |
| llama3.2:3b | 2.0 GB | 128K |
ダウンロードサイズは、上記の日付にOllamaライブラリのページから読み取ったものです。ファイルサイズであり、実測したメモリ使用量ではありません。
ほとんどのVPSプランにはGPUがないため、モデルはCPUとシステムメモリ上で動きます。Ollama FAQはこの場合について、モデルがすべてシステムメモリに読み込まれていると ollama ps の PROCESSOR 列に 100% CPU と表示されること、また CPU 推論での OLLAMA_MAX_LOADED_MODELS の既定値は 3 であることを説明しています。
CPUのみで動かしたときの速度の数値はドキュメントに載っておらず、私たちも測定していません。まずは目的の作業をこなせる最小のモデルから始め、長期契約をする前に数日間試してください。
Difyは Docker Compose でセルフホストできます。ドキュメントには最小システム要件が載っています。これは推奨ではなく、あくまで最小の値です。
| 手順 | やること |
|---|---|
| 1 | Difyのリポジトリをクローンし、dify/docker ディレクトリに移動する |
| 2 | .env.example を .env にコピーする |
| 3 | openssl rand -base64 32 でトークンを生成し、.env の DIFY_AGENT_LOCAL_SANDBOX_AUTH_TOKEN に設定する |
| 4 | docker compose up -d を実行する |
| 5 | docker compose ps を確認する:コンテナが Up または healthy と表示されていればよい |
| 6 | サーバーの /install を開いて管理者アカウントを作成し、ログインする |
確認したDifyのページには、Ollamaやローカルモデルについての記載はありません。1台のサーバーでDifyとローカルモデルの両方を動かす場合は、両方のメモリを見込んでください(これは2つのドキュメントを読んだ私たちの解釈であり、どちらかに書かれた数値ではありません)。
Ollama FAQには、Ollamaは既定で 127.0.0.1 のポート 11434 にバインドされ、バインドするアドレスは環境変数 OLLAMA_HOST で変更すると書かれています。確認したFAQのページには、Ollamaサーバーの認証についての説明はありません。以下はドキュメントの記述ではなく、私たちの推奨です。
VPSは使っても使わなくても毎月同じ料金がかかりますが、APIは送受信したトークンに対して課金されます。利用量が少ないなら、サーバーを動かし続けるよりAPIのほうが安くなることがあります。利用量が多く、小さなモデルで足りるなら、サーバーのほうが有利になることもあります。ご自身の利用量を入れて比べてみてください。
試してみる: LLM API Cost Calculator
単価とトークン数を入力すると、料金が表示されます。
入力した数字を掛け合わせるだけです。ベンダーの単価、割引、キャッシュ、バッチ料金、段階制の料金、税金は考慮しません。
プロンプトの入力トークン数を調べるには、Token Counterを使ってください。
プランは、まずメモリ、次にモデルを置くディスク、そのあとCPUの順に見ます。ここでは、国内の6つのVPSを、AIを動かす目で見て、公式ページに書かれていることと、当サイトの見立てを並べました。
同じ運営者のサイト sabakore.com の「AI・LLM向けVPS診断」では、動かしたいモデルと月額の上限から、メモリに載るプランを料金の安い順に並べられます(GPUは使わず、CPUだけで動かす前提の診断です)。
評価のものさし
公式ページで確認した日:
以下の6社の紹介は、アフィリエイト広告(PR)です。リンク先で申し込みがあると、当サイトの運営者に報酬が支払われます。並びは名前順で、報酬額は並びに関係ありません。評価は、各社の公式ページの記載(確認日は下に表示)だけにもとづく当サイトの見立てで、実際に動かして測ったものではありません。プランの内容や料金は変わるので、申し込む前に公式で確認してください。この記事は、これらのサービスでの動作を保証するものではありません。
メモリ○AIツールの入れやすさ○
公式ページに書かれていること
当サイトの見立て
メモリの選択肢が広く、AIツールを入れる仕組みも公式に用意されているので、「まず Dify や n8n を動かして試す」使い方と、大きめのモデルを載せたい使い方のどちらにも向きます。
申し込む前に
最小プランの書き方がページ内で食い違っています(料金表は512MB、FAQは1GB〜)。申し込む前に、いま選べるプランを公式で確認してください。CPUだけで動かしたときの速さは公式に数字がありません。
メモリ△AIツールの入れやすさ○
公式ページに書かれていること
当サイトの見立て
Dify を動かす用途が公式に想定されています。日額の料金から使えるので、「まず試して合わなければやめる」進め方がしやすい一方、メモリは8GBまでなので、載せられるモデルは8B級までが目安です。
申し込む前に
8GBでの Qwen3 8B は、4,096トークンの見積もりで約6.4 GiBです。コンテキストを長くする、同時に使う人を増やすと足りなくなります。GPUプランはこのページに記載がありません。
メモリ○AIツールの入れやすさ○
公式ページに書かれていること
当サイトの見立て
Dify のアプリイメージと「AIツールのホスティング」という用途が公式に書かれています。小さく始めて、必要になったら大きいプランへ、という使い方ができそうです。
申し込む前に
64GBのプランの内容や料金は、このページには載っていません。大きいモデルを載せたいときは、申し込む前に、そのプランが今も選べるかを公式で確認してください。
メモリ○AIツールの入れやすさ×
公式ページに書かれていること
当サイトの見立て
16GB・10コア・1TBまで選べるので、自分でモデルを入れて動かす前提なら、メモリとディスクには余裕があります。AIツールの導入は自分で組み立てることになります。
申し込む前に
AI向けのテンプレートや手順は公式にありません。このサイトの「VPSにOllamaを入れて動かし続ける」の手順で自分で入れることになります。
メモリ○AIツールの入れやすさ×
公式ページに書かれていること
当サイトの見立て
12GBまで選べるので、8B級のモデルを長めのコンテキストで使いたいときの選択肢になります。AIツールは自分で入れる前提です。
申し込む前に
月額に加えてサーチャージ費がかかるので、実際の支払いは料金表より増えます。申し込む前に、合計の目安を公式で確認してください。
メモリ△AIツールの入れやすさ△
公式ページに書かれていること
当サイトの見立て
公式がAI用途の推奨に挙げる16GBには、掲載プランの最大(8GB)が届きません。4B級までの小さなモデルや、Dify だけを動かす使い方なら選べます。
申し込む前に
8GBまでのプランで、AI用途の公式の推奨(16GB〜)を満たすものは、このページにはありません。GPUプランも記載がありません。
同じ運営者のサイト sabakore.com の関連記事(広告ではありません)