toolkitbox

~/ / AI記事 / ローカルLLM × VPS / 高価なPCなしでローカルLLMを始める:VPSを使う初心者ガイド

高価なPCなしでローカルLLMを始める:VPSを使う初心者ガイド

ローカルの言語モデルを試すために、高性能なコンピューターを買う必要はありません。サーバー(VPS)を借りてそこにモデルを入れれば、どの端末のブラウザからでも話しかけられます。このガイドでは、何もない状態から、動いて守られたチャット画面までを6ステップで進めます。途中でこのサイトのツールも使います。また、GPUのないVPSで何が言えて何が言えないかも、はっきり書きます。

この記事の末尾に、アフィリエイト広告(PR)のリンクがあります。

公開: · 約7分で読めます · 事実は2026-10-26時点で、公式ドキュメントと各VPSサービスの公式ページで確認しました。プラン、料金、初期設定は変わるため、お支払いの前にご自身で確認してください。

期待できること、できないこと

VPSは、データセンターにあるコンピューターを借りるものです。ここでいうローカルLLMとは、インターネット越しに呼び出すサービスではなく、そのコンピューターの上で動かすモデルのことです。チャットの内容は、自分で管理するサーバーの中にとどまります。

VPSは、強力なグラフィックスカードを積んだPCの代わりにはなりません。このガイドもそうは主張しません。以下が、確認できたことと、確認できなかったことです。

疑問わかったこと
VPSのプランにGPUはある?確認した6つのVPSのページには、GPUのプランが載っているものはありませんでした。ConoHaとXServerのページは、別のGPUサービスを案内しています。
では、モデルはどこで動く?サーバーのメモリの中で、CPUで動きます。OllamaのFAQには、モデルがすべてシステムメモリに読み込まれたとき、ollama ps が 100% CPU と表示する、とあります。
どのくらい速い?わかりません。確認したドキュメントにはCPUだけで動かしたときの速度の数字がなく、私たちも測っていません。まず小さなモデルから始めて、試してください。
そもそも動くかどうかは何で決まる?メモリです。サーバーのメモリに収まらないモデルは、うまく動きません。見積もり方はステップ1で説明します。

たまにチャットするだけなら、インターネット越しに呼び出す有料のAIサービスのほうが、1か月ずっと動かすサーバーより安く済むことがあります。ステップ3には計算ツールがあり、ご自身の数字で比べられます。

ステップ1:必要なメモリを見積もる

モデルには、モデルのファイル、会話が長くなると増えるキャッシュ、そしてオペレーティングシステムのためのメモリが必要です。表は、6つのモデルについて、コンテキスト長4,096トークン、一度に1リクエスト、システム用に1 GiBを確保した場合の私たちの見積もりです。見積もりはOllamaライブラリのサイズと公式のモデル設定から計算したもので、測定値ではなく推定値です。

モデル推定合計(GiB)一般的な最小のメモリ容量(GiB)
Qwen3 0.6B1.922
Qwen3 1.7B2.744
Qwen3 4B3.894
Qwen3 8B6.418
Qwen3 14B10.2912
Mistral 7B (v0.3)5.608

試してみる: Local LLM Memory Estimator

モデル

Ollamaのタグ qwen3:8b、量子化 Q4_K_M、ダウンロードサイズ 5.2 GB。

見積もり

モデルの重み
4.84 GiB
KVキャッシュ
0.56 GiB
予備
1.00 GiB
合計
6.41 GiB (6.88 GB)
収まる最小の一般的なメモリ容量
8 GiB

これは見積もりです。ランタイムの計算用バッファは含まれておらず、すべてのレイヤーでKVの形が同じであることを前提にしています。プランを選ぶ前に、実際に動かして測ってください。

モデルのデータは 2026-10-26 に確認しました。

出典: Ollama library · モデルの設定ファイル(config.json) · Ollama FAQ

すべてブラウザの中で動きます。アップロードはされません。

ステップ2:モデルを選ぶ

Ollamaライブラリでは、各モデルにできることを示すラベルが付いています。tools が付いたモデルは、自分で定義した関数を呼び出せます。thinking は、推論の過程を答えとは別に表示します。vision は画像を受け取れます。embedding は、検索のためにテキストをベクトルに変換します。最初のチャットにはどれも必要ないので、まずはメモリで選びましょう。

タグラベルダウンロードサイズ目安にするメモリ容量
qwen3:4btools, thinking2.5 GB4 GiB
llama3.2:3btools2.0 GBここでは見積もっていません
gemma3:4bvision3.4 GBここでは見積もっていません
mistral:7btools4.4 GB8 GiB

ダウンロードサイズは、そのモデルに最低限必要なメモリの量です。見積もりのないモデルは、計算ツールのプリセットに入っていません。見積もりにはモデル設定にある層の数やヘッドのサイズが必要なためです。カスタムモデルとして自分で入力することはできます。

ステップ3:VPSを選ぶ

まずメモリを見て、次にモデルのファイルを置くディスク、最後にCPUを見ます。モデルのファイルは1つで数ギガバイトあるため、ディスクが大事です。そのうえで、サービス側がどこまで準備してくれているかを見ます。このガイドの末尾にある6つのサービスのうち、ConoHa VPS、KAGOYA CLOUD VPS、XServer VPSのページにはDifyの記載があり、ConoHa VPSのページには、起動スクリプトの一覧にn8nとClaude Codeも載っています。Ollamaのようなモデルサーバーを載せているものは6つのどれにもないので、ステップ4でご自身でインストールします。

このページの末尾の節では、6つのサービスを公式ページをもとに比べています。ここでは、サーバーと、インターネット越しに呼び出すAIサービスを比べられます。

試してみる: LLM API Cost Calculator

Model A
Model B(任意・比較用)
利用量

見積もり料金

単価とトークン数を入力すると、料金が表示されます。

公式の料金ページ

入力した数字を掛け合わせるだけです。ベンダーの単価、割引、キャッシュ、バッチ料金、段階制の料金、税金は考慮しません。

プロンプトの入力トークン数を調べるには、Token Counterを使ってください。

ステップ4:Ollamaをインストールする

以下は、Ollama公式ドキュメントにあるLinux向けのコマンドです。大事なサーバーで実行する前に、スクリプトの中身を読んでください。

手順コマンド
インストールcurl -fsSL https://ollama.com/install.sh | sh
動くことを確認するollama -v
ライブラリのモデルを動かすollama run qwen3:4b

起動時にOllamaを立ち上げて動かし続けるには、ドキュメントにあるsystemdのサービスを使います。詳しい手順、設定、アップデートは、終わりのほうに挙げた詳細な記事にあります。

ステップ5:ブラウザでチャットする

モデルを試すだけなら、ターミナルに入力すれば十分です。普段使いには、Open WebUIがブラウザ上のチャット画面を用意してくれます。クイックスタートでは1つのコマンドで起動し、http://localhost:3000 で表示されます。your-secret-key は、openssl rand -hex 32 で生成した値に置き換えてください。

手順コマンド
Open WebUIを起動するdocker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  • 最初に作ったアカウントが管理者になり、管理者アカウントができるとサインアップは自動的に閉じます。すぐに作成してください。
  • ガイドにはOpen WebUIをOllamaにつなぐ方法が2つ載っていて、詳細な記事で両方を説明しています。

ステップ6:外から使われないようにする

Ollamaは初期設定で 127.0.0.1 の port 11434 で待ち受けます。これがもっとも安全な設定で、ドキュメントには、Ollama自身の認証についての記載はありません。私たちの推奨であり、ドキュメントの記述ではありません:そのポートをインターネットに開けないでください。前段にnginxを置いてパスワードとHTTPSをかけ、使うアドレスだけを通すファイアウォールを使ってください。

  • シークレットキーとパスワードは、コミットするものに含めないでください。
  • OllamaとOpen WebUIは時々アップデートし、そのときはOpen WebUIのデータボリュームを残してください。

もっと詳しく

  1. 1VPSでローカルLLMを動かすのに、メモリはどれだけ要るか:モデルファイルとKVキャッシュモデルファイルとKVキャッシュ:VPSでローカルLLMを動かすときに必要なメモリについて、Ollamaライブラリ、Ollama FAQ、公式のモデル設定が示すこと。
  2. 2ローカルモデルには何ができる?Ollamaのtools・thinking・vision・embeddingと、VPSに載るモデルtools、thinking、vision、embedding。Ollamaライブラリのラベルの意味と、付いているモデル、ダウンロードサイズの目安。
  3. 3VPSにOllamaを入れて動かし続ける:インストール、systemdサービス、設定、アップデートLinux VPSにOllamaを入れて動かし続けるには:インストールコマンド、systemdサービス、環境変数、モデルの保存先、アップデートを公式ドキュメントから整理しました。
  4. 4VPS上のOpen WebUI:Dockerで動かし、Ollamaにつなぐ自分のサーバーでOpen WebUIをDockerで動かし、Ollamaにつなぐ方法。コマンド、最初のアカウント、2種類の接続、更新のしかたを紹介します。
  5. 5Ollamaの前にnginxを置く: ベーシック認証、HTTPS、ストリーミングの設定Ollamaを外から安全に使うために。nginxをプロキシにして、ベーシック認証、HTTPS、ストリーミングとタイムアウトの設定、ファイアウォールの規則を公式ドキュメントからまとめました。
  6. 6自前のVPSでAIを動かす:必要なメモリの見積もりと、公開してはいけないものVPSでOllamaやDifyを動かす予定ですか?メモリ、CPUのみでの推論、閉じておくべきポートについて、公式ドキュメントの内容をまとめました。

VPSを選ぶときは:AIで使う目で6社を見る(PR)

プランは、まずメモリ、次にモデルを置くディスク、そのあとCPUの順に見ます。ここでは、国内の6つのVPSを、AIを動かす目で見て、公式ページに書かれていることと、当サイトの見立てを並べました。

同じ運営者のサイト sabakore.com の「AI・LLM向けVPS診断」では、動かしたいモデルと月額の上限から、メモリに載るプランを料金の安い順に並べられます(GPUは使わず、CPUだけで動かす前提の診断です)。

sabakore.com のAI・LLM向けVPS診断を開く

評価のものさし

  • メモリ: いちばん大きいプランのメモリ。12GB以上なら○(Qwen3 14B が4,096トークンで約10.3 GiB。記事「VPSでローカルLLMを動かすのに必要なメモリ」の表)、8GB以上なら△(Qwen3 8B が約6.4 GiB)。
  • AIツールの入れやすさ: 公式ページに AI 用のテンプレートやスクリプトの記載があれば○、Docker の構築環境だけなら△、記載がなければ×(使えない、という意味ではありません)。
  • 料金と速さは評価しません。料金は変わり、CPUだけで動かしたときの速さは公式に数字がないためです。

公式ページで確認した日:

以下の6社の紹介は、アフィリエイト広告(PR)です。リンク先で申し込みがあると、当サイトの運営者に報酬が支払われます。並びは名前順で、報酬額は並びに関係ありません。評価は、各社の公式ページの記載(確認日は下に表示)だけにもとづく当サイトの見立てで、実際に動かして測ったものではありません。プランの内容や料金は変わるので、申し込む前に公式で確認してください。この記事は、これらのサービスでの動作を保証するものではありません。

  • ConoHa VPS (PR)

    メモリ○AIツールの入れやすさ○

    公式ページに書かれていること

    • 料金表のメモリは512MBから128GBまで(CPUは最大40コア)
    • スタートアップスクリプトで OpenClaw、Claude Code、n8n、Dify などを導入できると書かれている
    • GPUプランは、このページには記載なし(GPU用の案内は別のページ)

    当サイトの見立て

    メモリの選択肢が広く、AIツールを入れる仕組みも公式に用意されているので、「まず Dify や n8n を動かして試す」使い方と、大きめのモデルを載せたい使い方のどちらにも向きます。

    申し込む前に

    最小プランの書き方がページ内で食い違っています(料金表は512MB、FAQは1GB〜)。申し込む前に、いま選べるプランを公式で確認してください。CPUだけで動かしたときの速さは公式に数字がありません。

    ConoHa VPSの公式サイトで申し込む(PR)公式ページ

  • KAGOYA CLOUD VPS (PR)

    メモリ△AIツールの入れやすさ○

    公式ページに書かれていること

    • メモリは1GB・2GB・4GB・8GB(CPUは最大6コア、SSDは100GB〜800GB)
    • 「オープンソースのAI開発基盤DifyをVPSで手軽に導入」できると書かれ、Docker の構築済みサーバーもある
    • 日額・月額(月額上限あり)と年額の定額プランがある

    当サイトの見立て

    Dify を動かす用途が公式に想定されています。日額の料金から使えるので、「まず試して合わなければやめる」進め方がしやすい一方、メモリは8GBまでなので、載せられるモデルは8B級までが目安です。

    申し込む前に

    8GBでの Qwen3 8B は、4,096トークンの見積もりで約6.4 GiBです。コンテキストを長くする、同時に使う人を増やすと足りなくなります。GPUプランはこのページに記載がありません。

    KAGOYA CLOUD VPSの公式サイトで申し込む(PR)公式ページ

  • XServer VPS (PR)

    メモリ○AIツールの入れやすさ○

    公式ページに書かれていること

    • 料金表に載っているのは2GB・4GB・8GBの3プラン(NVMe SSD、8GBは6コア・400GB)。FAQには高負荷の用途向けに最大64GBのプランがあると書かれている
    • アプリイメージに Dify があり、FAQは用途の例として「AIツールのホスティング」を挙げている
    • GPUは、別サービスの「GPUサーバー」へのリンクがあるだけで、VPSのページには記載なし

    当サイトの見立て

    Dify のアプリイメージと「AIツールのホスティング」という用途が公式に書かれています。小さく始めて、必要になったら大きいプランへ、という使い方ができそうです。

    申し込む前に

    64GBのプランの内容や料金は、このページには載っていません。大きいモデルを載せたいときは、申し込む前に、そのプランが今も選べるかを公式で確認してください。

    XServer VPSの公式サイトで申し込む(PR)公式ページ

  • お名前.com VPS (PR)

    メモリ○AIツールの入れやすさ×

    公式ページに書かれていること

    • メモリは1GBから16GBまで(CPUは最大10コア、SSDは100GB〜1TB)
    • KVM の仮想化で、Linux 環境を使える
    • AI や Docker のテンプレートは、このページには記載なし

    当サイトの見立て

    16GB・10コア・1TBまで選べるので、自分でモデルを入れて動かす前提なら、メモリとディスクには余裕があります。AIツールの導入は自分で組み立てることになります。

    申し込む前に

    AI向けのテンプレートや手順は公式にありません。このサイトの「VPSにOllamaを入れて動かし続ける」の手順で自分で入れることになります。

    お名前.com VPSの公式サイトで申し込む(PR)公式ページ

  • クラウドVPS byGMO (PR)

    メモリ○AIツールの入れやすさ×

    公式ページに書かれていること

    • Vシリーズは1GB・2GB・4GB・6GB・8GB・12GB(CPUは最大7コア、ディスクは50GB〜800GB)
    • プランの月額料金とは別に、サーチャージ費が課金される
    • AI や Docker のテンプレートは、このページには記載なし

    当サイトの見立て

    12GBまで選べるので、8B級のモデルを長めのコンテキストで使いたいときの選択肢になります。AIツールは自分で入れる前提です。

    申し込む前に

    月額に加えてサーチャージ費がかかるので、実際の支払いは料金表より増えます。申し込む前に、合計の目安を公式で確認してください。

    クラウドVPS byGMOの公式サイトで申し込む(PR)公式ページ

  • さくらのVPS (PR)

    メモリ△AIツールの入れやすさ△

    公式ページに書かれていること

    • メモリは512MBから8GBまで(CPUは最大6コア、SSDは25GB〜400GB。オプションで最大800GB)
    • 用途の例に「AI / 機械学習用途」があり、推奨はメモリ16GB〜・SSD 100GB〜と書かれている(掲載プランの最大は8GB)
    • スタートアップスクリプトに Docker の構築環境がある。AI専用のテンプレートは記載なし。石狩・大阪・東京から選べる

    当サイトの見立て

    公式がAI用途の推奨に挙げる16GBには、掲載プランの最大(8GB)が届きません。4B級までの小さなモデルや、Dify だけを動かす使い方なら選べます。

    申し込む前に

    8GBまでのプランで、AI用途の公式の推奨(16GB〜)を満たすものは、このページにはありません。GPUプランも記載がありません。

    さくらのVPSの公式サイトで申し込む(PR)公式ページ

出典

次に読む