~/tools / Yerel LLM'i kendi sunucunuzda çalıştırın / Ollama nginx Config Generator

Ollama nginx Config Generator — Ollama için nginx yapılandırması oluşturun: HTTPS, temel kimlik doğrulama, izin verilen adresler, akış

Ollama'yı bir vekil sunucunun arkasına koyan bir nginx server bloğu oluşturun: sertifikanızla HTTPS, 80 numaralı porttan yönlendirme, temel kimlik doğrulamayla parola, izin verilen adresler listesi ve akışla gelen yanıtların yazıldıkça ulaşmasını sağlayan ayarlar. Başlangıç noktası resmî Ollama SSS'deki vekil sunucu örneğidir ve yalnızca nginx belgelerindeki yönergeler kullanılır. Hiçbir veri tarayıcınızdan çıkmaz.

server {
    listen 80;
    server_name ollama.example.com;
    return 301 https://$host$request_uri;
}

server {
    listen 443 ssl;
    server_name ollama.example.com;

    ssl_certificate /etc/ssl/ollama.crt;
    ssl_certificate_key /etc/ssl/ollama.key;

    auth_basic "ollama";
    auth_basic_user_file /etc/nginx/ollama.htpasswd;

    location / {
        proxy_pass http://localhost:11434;
        proxy_set_header Host localhost:11434;
        proxy_http_version 1.1;
        proxy_buffering off;
        proxy_read_timeout 300s;
    }
}

sudo htpasswd -c /etc/nginx/ollama.htpasswd alice
sudo nginx -t
sudo nginx -s reload

Ollama varsayılan olarak yalnızca sunucunun kendisinde dinler ve Ollama SSS bunun için herhangi bir kimlik doğrulama tanımlamaz. Başka bir makinenin ona erişmesi gerektiğinde SSS, nginx gibi bir vekil sunucuya işaret eder; örnekte istekler http://localhost:11434 adresine iletilir ve Host başlığı localhost:11434 olarak ayarlanır. Bu araç, o örneğin üzerine nginx belgelerindeki yönergeleri ekler: sertifika ve anahtarla listen 443 ssl, HTTPS'e yönlendiren 80 numaralı porttaki bir sunucu, parola dosyasıyla auth_basic, adresler için allow ve deny, client_max_body_size, proxy_http_version 1.1, akış için proxy_buffering off ve yavaş gelen ilk yanıt için proxy_read_timeout. Bu birleşim bize aittir, belgelerdeki tek bir örnek değildir; bu yüzden test ettik: çıktı resmî nginx 1.29.8 imajında ve Ubuntu 24.04'ün nginx 1.24.0 sürümünde nginx -t denetimini geçti; nginx 1.29.8 üzerinden Ollama 0.40.11'e yalnızca doğru parolayla ulaştık, akışla gelen bir yanıtın 81 parça halinde ulaştığını gördük ve izin verilen adresler listesinin dışındaki bir adresten 403 aldık.

Bu aracın temel mantığı MIT lisansıyla açık kaynaktır. github.com/seigo5555/toolkitbox-lib/src/ollama-nginx.ts