~/tools / Ejecutar un LLM local en tu servidor / Ollama nginx Config Generator

Ollama nginx Config Generator — Crea una configuración de nginx para Ollama: HTTPS, autenticación básica, lista de permitidas, streaming

Crea un bloque server de nginx que pone Ollama detrás de un proxy: HTTPS con tu certificado, una redirección desde el puerto 80, una contraseña con autenticación básica, una lista de direcciones permitidas y ajustes para que las respuestas en streaming lleguen a medida que se escriben. Parte del ejemplo de proxy de las preguntas frecuentes oficiales de Ollama y usa solo directivas de la documentación de nginx. Nada sale de tu navegador.

server {
    listen 80;
    server_name ollama.example.com;
    return 301 https://$host$request_uri;
}

server {
    listen 443 ssl;
    server_name ollama.example.com;

    ssl_certificate /etc/ssl/ollama.crt;
    ssl_certificate_key /etc/ssl/ollama.key;

    auth_basic "ollama";
    auth_basic_user_file /etc/nginx/ollama.htpasswd;

    location / {
        proxy_pass http://localhost:11434;
        proxy_set_header Host localhost:11434;
        proxy_http_version 1.1;
        proxy_buffering off;
        proxy_read_timeout 300s;
    }
}

sudo htpasswd -c /etc/nginx/ollama.htpasswd alice
sudo nginx -t
sudo nginx -s reload

Por defecto, Ollama escucha solo en el propio servidor, y las preguntas frecuentes de Ollama no describen ninguna autenticación para él. Cuando otra máquina tiene que acceder, las preguntas frecuentes remiten a un servidor proxy como nginx, con un ejemplo que reenvía las peticiones a http://localhost:11434 y establece la cabecera Host en localhost:11434. Esta herramienta se basa en ese ejemplo con directivas de la documentación de nginx: listen 443 ssl con un certificado y una clave, un servidor en el puerto 80 que redirige a HTTPS, auth_basic con un archivo de contraseñas, allow y deny para las direcciones, client_max_body_size, proxy_http_version 1.1, proxy_buffering off para el streaming y proxy_read_timeout para una primera respuesta lenta. La combinación es nuestra, no un único ejemplo de los documentos, así que la probamos: la salida pasó nginx -t en la imagen oficial de nginx 1.29.8 y en nginx 1.24.0 de Ubuntu 24.04, y a través de nginx 1.29.8 llegamos a Ollama 0.40.11 solo con la contraseña correcta, vimos llegar una respuesta en streaming en 81 fragmentos y obtuvimos 403 desde una dirección fuera de la lista de permitidas.

La lógica principal de esta herramienta es de código abierto, con licencia MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-nginx.ts