~/ / Bài viết về AI / LLM cục bộ trên VPS / Cài Ollama trên VPS và giữ cho nó chạy ổn định: cài đặt, dịch vụ systemd, thiết lập và cập nhật

Cài Ollama trên VPS và giữ cho nó chạy ổn định: cài đặt, dịch vụ systemd, thiết lập và cập nhật

Khi bạn đã biết một mô hình vừa với bộ nhớ của VPS, việc cài Ollama chỉ cần vài lệnh. Phần cần cẩn thận hơn là giữ cho nó chạy ổn định: khởi động cùng hệ thống, đặt biến môi trường, chọn nơi lưu các tệp mô hình lớn và cập nhật sau này. Bài viết này đi qua từng bước theo tài liệu chính thức của Ollama dành cho Linux và phần FAQ.

Đăng: 2026-10-26 · 5 phút đọc · Đã đối chiếu với tài liệu chính thức của Ollama vào ngày 2026-10-26. Lệnh và giá trị mặc định có thể thay đổi, vì vậy hãy xác nhận trong tài liệu hiện hành trước khi chạy bất cứ thứ gì trên máy chủ.

Kiểm tra bộ nhớ trước

Một mô hình không vừa với bộ nhớ của máy chủ sẽ chạy không tốt, và tải nó về trước chỉ tốn thời gian và dung lượng đĩa. Hãy ước tính bộ nhớ trước khi cài bất cứ thứ gì: tệp mô hình, cộng với KV cache cho độ dài ngữ cảnh bạn định dùng, cộng với phần dự trữ cho hệ điều hành.

Dùng thử: Local LLM Memory Estimator

Mô hình

Tag Ollama qwen3:8b, lượng tử hóa Q4_K_M, dung lượng tải xuống 5.2 GB.

Dung lượng tệp (GB)Số lớpKV headsHead dimension

Độ dài ngữ cảnh (token)Yêu cầu song songLoại KV cacheDự trữ cho OS và dịch vụ khác (GiB)Bộ nhớ của gói (GiB, tùy chọn)

Ước tính

Trọng số mô hình: 4.84 GiB
KV cache: 0.56 GiB
Dự trữ: 1.00 GiB
Tổng: 6.41 GiB (6.88 GB)
Dung lượng bộ nhớ phổ biến nhỏ nhất chứa vừa: 8 GiB

Đây là một ước tính. Nó không bao gồm các bộ đệm tính toán của runtime, và giả định mọi lớp có cùng hình dạng KV. Hãy đo một lần chạy thật trước khi chọn gói.

Dữ liệu mô hình được kiểm tra ngày 2026-10-26.

Nguồn: Ollama library · Cấu hình mô hình (config.json) · Ollama FAQ

Mọi thứ chạy trong trình duyệt của bạn. Không có gì được tải lên.

Cài đặt

Tài liệu Ollama dành cho Linux đưa ra một lệnh cài đặt một dòng và cách cài thủ công. Hãy đọc một đoạn script trước khi chuyển nó vào shell trên một máy chủ quan trọng; script nằm ở địa chỉ trong lệnh.

Cách	Lệnh hoặc bước thực hiện
Script cài đặt	curl -fsSL https://ollama.com/install.sh \| sh
Thủ công: xóa thư viện cũ khi nâng cấp	sudo rm -rf /usr/lib/ollama
Thủ công: tải về và giải nén	curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \| sudo tar x -C /usr
Thủ công: khởi động máy chủ	ollama serve
Kiểm tra xem nó có đang chạy không (trong một terminal khác)	ollama -v

Với máy chủ ARM64, tài liệu dùng ollama-linux-arm64.tar.zst thay cho gói amd64. Trình điều khiển GPU là tùy chọn: tài liệu nêu CUDA cho GPU NVIDIA và ROCm cho GPU AMD, còn một VPS thông thường không có cái nào.

Chạy như một dịch vụ

Để Ollama khởi động cùng hệ thống và tự khởi động lại sau khi lỗi, tài liệu mô tả một dịch vụ systemd. Trước tiên hãy tạo một người dùng và nhóm riêng, rồi tạo tệp unit /etc/systemd/system/ollama.service.

Phần	Các dòng trong tệp unit của tài liệu
[Unit]	một mô tả, và After=network-online.target
[Service]	ExecStart=/usr/bin/ollama serve
[Service]	User=ollama và Group=ollama
[Service]	Restart=always và RestartSec=3
[Service]	Environment="PATH=$PATH"
[Install]	WantedBy=multi-user.target

Tạo người dùng và nhóm: sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama, rồi sudo usermod -a -G ollama $(whoami)
Nạp và bật unit: sudo systemctl daemon-reload, rồi sudo systemctl enable ollama
Khởi động và kiểm tra: sudo systemctl start ollama, rồi sudo systemctl status ollama
Đọc nhật ký: journalctl -e -u ollama

Tài liệu không nói script cài đặt có tự thiết lập dịch vụ này hay không. Sau khi cài, hãy kiểm tra bằng systemctl status ollama thay vì giả định.

Các thiết lập quan trọng trên máy chủ

Biến môi trường được đặt trong một bản ghi đè (override) của systemd. FAQ hướng dẫn sửa dịch vụ bằng systemctl edit ollama.service, thêm biến vào dưới [Service], rồi chạy systemctl daemon-reload và systemctl restart ollama. Ví dụ: Environment="OLLAMA_HOST=0.0.0.0:11434".

Biến	Tài liệu nói gì
OLLAMA_HOST	Theo mặc định Ollama gắn vào 127.0.0.1 cổng 11434; biến này thay đổi địa chỉ gắn
OLLAMA_KEEP_ALIVE	Theo mặc định các mô hình được giữ trong bộ nhớ 5 phút rồi mới được gỡ ra; giá trị keep_alive trong một yêu cầu API sẽ ghi đè thiết lập này
OLLAMA_MAX_LOADED_MODELS	Số mô hình tối đa được nạp cùng lúc nếu chúng vừa với bộ nhớ; mặc định là 3 đối với suy luận bằng CPU
OLLAMA_MODELS	Trên Linux, các mô hình được lưu trong /usr/share/ollama/.ollama/models; đặt biến này để dùng thư mục khác, và cấp cho người dùng ollama quyền đọc và ghi vào đó, ví dụ bằng sudo chown -R ollama:ollama <directory>

Các tệp mô hình rất lớn (bản tải Qwen3 8B là 5.2 GB, còn bản 14B là 9.3 GB), vì vậy hãy kiểm tra dung lượng đĩa còn trống của VPS trước khi tải nhiều mô hình.

Truy cập từ bên ngoài

FAQ cho biết Ollama chạy một máy chủ HTTP và có thể được mở ra bằng một máy chủ proxy như Nginx. Ví dụ của FAQ lắng nghe ở cổng 80, đặt một server_name, chuyển tiếp yêu cầu bằng proxy_pass http://localhost:11434 và đặt tiêu đề Host thành localhost:11434.

Trang FAQ mà chúng tôi đã kiểm tra không mô tả bất kỳ cơ chế xác thực nào cho máy chủ Ollama. Khuyến nghị của chúng tôi, không phải lời của tài liệu: giữ nguyên địa chỉ mặc định và truy cập máy chủ qua một đường hầm SSH, hoặc nếu bạn đặt proxy phía trước thì hãy thêm xác thực và HTTPS ở đó, đồng thời giới hạn cổng trong tường lửa chỉ cho các địa chỉ bạn dùng.

Cập nhật, kiểm tra và gỡ bỏ

Cập nhật bằng cách chạy lại script cài đặt, hoặc tải lại tệp tarball theo các bước thủ công.
Để cài một phiên bản cụ thể, đặt OLLAMA_VERSION trước script, ví dụ curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh. Số phiên bản có trên trang phát hành (releases) của GitHub.
Để chạy một mô hình trong thư viện, dùng lệnh hiển thị trên trang của mô hình đó, ví dụ ollama run qwen3:4b.
Để gỡ dịch vụ, chạy sudo systemctl stop ollama và sudo systemctl disable ollama, rồi xóa tệp unit. Tài liệu cũng nêu việc xóa các thư viện, tệp nhị phân, cùng các mô hình, người dùng và nhóm trong /usr/share/ollama.