VPS上のOpen WebUI:Dockerで動かし、Ollamaにつなぐ
自分のサーバーでOpen WebUIをDockerで動かし、Ollamaにつなぐ方法。コマンド、最初のアカウント、2種類の接続、更新のしかたを紹介します。
公開: 使えるツール: Local LLM Memory Estimator
ローカルLLM × VPS
自分のサーバーで言語モデルを動かすための記事です。必要なメモリ、インストール、設定、モデルごとにできること。Ollamaやモデル提供元の公式ドキュメントで確認できたことだけを書いています。
ローカルモデルを自分のコードから呼び出す: Ollama の構造化出力と OpenAI 互換 API
JSON Schema でローカルモデルの出力を制約し、OpenAI 形式のクライアントから Ollama を呼び出す方法。公式ドキュメントの内容と、未対応の機能をまとめました。
公開: 使えるツール: JSON Schema Validator, LLM JSON Repair
ローカルモデルには何ができる?Ollamaのtools・thinking・vision・embeddingと、VPSに載るモデル
tools、thinking、vision、embedding。Ollamaライブラリのラベルの意味と、付いているモデル、ダウンロードサイズの目安。
公開: 使えるツール: Local LLM Memory Estimator
VPSにOllamaを入れて動かし続ける:インストール、systemdサービス、設定、アップデート
Linux VPSにOllamaを入れて動かし続けるには:インストールコマンド、systemdサービス、環境変数、モデルの保存先、アップデートを公式ドキュメントから整理しました。
公開: 使えるツール: Local LLM Memory Estimator
VPSでローカルLLMを動かすのに、メモリはどれだけ要るか:モデルファイルとKVキャッシュ
モデルファイルとKVキャッシュ:VPSでローカルLLMを動かすときに必要なメモリについて、Ollamaライブラリ、Ollama FAQ、公式のモデル設定が示すこと。
公開: 使えるツール: Local LLM Memory Estimator
自前のVPSでAIを動かす:必要なメモリの見積もりと、公開してはいけないもの
VPSでOllamaやDifyを動かす予定ですか?メモリ、CPUのみでの推論、閉じておくべきポートについて、公式ドキュメントの内容をまとめました。
公開: 使えるツール: LLM API Cost Calculator