~/tools / 서버에서 로컬 LLM 실행하기 / Ollama nginx Config Generator

Ollama nginx Config Generator — Ollama용 nginx 설정 만들기: HTTPS, 기본 인증, 허용 목록, 스트리밍

Ollama를 프록시 뒤에 두는 nginx server 블록을 만듭니다. 내 인증서를 쓰는 HTTPS, 80번 포트에서의 리디렉션, 기본 인증(basic authentication)을 통한 비밀번호, 주소 허용 목록, 스트리밍되는 답이 작성되는 대로 도착하게 하는 설정을 지정할 수 있습니다. 공식 Ollama FAQ의 프록시 예시에서 출발하며, nginx 문서에 나온 지시어만 사용합니다. 입력한 내용은 브라우저 밖으로 나가지 않습니다.

server {
    listen 80;
    server_name ollama.example.com;
    return 301 https://$host$request_uri;
}

server {
    listen 443 ssl;
    server_name ollama.example.com;

    ssl_certificate /etc/ssl/ollama.crt;
    ssl_certificate_key /etc/ssl/ollama.key;

    auth_basic "ollama";
    auth_basic_user_file /etc/nginx/ollama.htpasswd;

    location / {
        proxy_pass http://localhost:11434;
        proxy_set_header Host localhost:11434;
        proxy_http_version 1.1;
        proxy_buffering off;
        proxy_read_timeout 300s;
    }
}

sudo htpasswd -c /etc/nginx/ollama.htpasswd alice
sudo nginx -t
sudo nginx -s reload

Ollama는 기본적으로 서버 자신에서만 수신하며, Ollama FAQ에는 인증에 대한 설명이 없습니다. 다른 컴퓨터에서 접속해야 할 때 FAQ는 nginx 같은 프록시 서버를 안내하며, 요청을 http://localhost:11434로 전달하고 Host 헤더를 localhost:11434로 설정하는 예시를 보여 줍니다. 이 도구는 그 예시에 nginx 문서의 지시어를 더해 만듭니다. 인증서와 키를 쓰는 listen 443 ssl, HTTPS로 리디렉션하는 80번 포트의 server, 비밀번호 파일을 쓰는 auth_basic, 주소를 제한하는 allow와 deny, client_max_body_size, proxy_http_version 1.1, 스트리밍을 위한 proxy_buffering off, 첫 답이 느릴 때를 위한 proxy_read_timeout입니다. 이 조합은 문서의 어느 한 예시가 아니라 우리가 구성한 것이어서 직접 테스트했습니다. 출력은 공식 nginx 1.29.8 이미지와 Ubuntu 24.04의 nginx 1.24.0 모두에서 nginx -t를 통과했습니다. 또 nginx 1.29.8을 거쳐 올바른 비밀번호일 때만 Ollama 0.40.11에 접속할 수 있었고, 스트리밍된 답이 81조각으로 나뉘어 도착했으며, 허용 목록 밖의 주소에서는 403이 반환되었습니다.

이 도구의 핵심 로직은 MIT 라이선스의 오픈 소스로 공개되어 있습니다. github.com/seigo5555/toolkitbox-lib/src/ollama-nginx.ts