~/tools / ローカルLLMをサーバーで動かす / Ollama systemd Override Generator

Ollama systemd Override Generator — Ollama の systemd 設定を作る

Linux サーバーで Ollama の環境変数を設定する systemd のオーバーライドを作ります。待ち受けアドレス、モデルのディレクトリ、モデルをメモリに置いておく時間、コンテキスト長、並列リクエスト、Flash Attention、K/V キャッシュの種類、追加のオリジン、ローカル専用モード、HTTPS プロキシを指定できます。変数はすべて公式の Ollama FAQ に載っているもので、値は systemd が読むとおりに引用符で囲みます。入力した内容はブラウザの外に出ません。

[Service]
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_MAX_LOADED_MODELS=1"
Environment="OLLAMA_NO_CLOUD=1"

sudo systemctl edit ollama.service
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment

Ollama を Linux で systemd のサービスとして動かしている場合、公式 FAQ では、環境変数を systemctl edit ollama.service で設定するよう案内しています。[Service] の下に変数ごとに Environment の行を1つ加えて保存し、systemctl daemon-reload と systemctl restart ollama を実行します。手順は短いのですが、細かい点で間違えやすくなっています。systemd は指定子を展開するため、% は %% と書く必要があります。引用符で囲んだ代入の中のバックスラッシュと二重引用符はエスケープとして読まれます。スペースを含む値は、全体を引用符で囲む必要があります。このツールは、そのオーバーライドを代わりに書きます。FAQ に載っている変数だけを選べるようにし、各変数の横に記載された既定値を示し、すべての代入を "NAME=value" の形で引用符で囲み、% は2つに重ねます。Ollama がすべてのネットワークインターフェースで待ち受けることになる値、整数ではない数、Flash Attention をオフにしたまま量子化した K/V キャッシュを選んだ場合は、警告します。出力は Ubuntu 24.04(systemd 255)でテストしました。systemctl edit に貼り付け、スペース、$、'、% を含め、サービスが各値をそのまま受け取ることを確認しています。

このツールの計算部分は、オープンソース(MIT ライセンス)で公開しています。 github.com/seigo5555/toolkitbox-lib/src/ollama-systemd.ts