~/tools / Eseguire un LLM locale sul tuo server / Ollama systemd Override Generator

Ollama systemd Override Generator — Crea l'override systemd di Ollama: OLLAMA_HOST, OLLAMA_MODELS, KEEP_ALIVE e altro

Crea l'override di systemd che imposta le variabili d'ambiente di Ollama su un server Linux: l'indirizzo di ascolto, la directory dei modelli, per quanto tempo i modelli restano in memoria, la lunghezza del contesto, le richieste in parallelo, Flash Attention, il tipo di cache K/V, origini aggiuntive, la modalità solo locale e un proxy HTTPS. Ogni variabile proviene dalle FAQ ufficiali di Ollama, e ogni valore è racchiuso tra virgolette come lo legge systemd. Nulla lascia il tuo browser.

Variabili d'ambiente

I campi vuoti non vengono scritti. Il testo grigio è il valore predefinito indicato nelle FAQ di Ollama.

OLLAMA_HOSTIndirizzo e porta su cui Ollama ascoltaOLLAMA_MODELSDirectory dei file dei modelli; l'utente ollama ha bisogno dell'accesso in lettura e scritturaOLLAMA_KEEP_ALIVEQuanto un modello resta in memoria: 10m, 24h, 3600 (secondi), -1 per tenerlo, 0 per scaricarlo subitoOLLAMA_CONTEXT_LENGTHFinestra di contesto predefinita, in tokenOLLAMA_NUM_PARALLELRichieste in parallelo per modello; la memoria cresce con questo valore moltiplicato per la lunghezza del contestoOLLAMA_MAX_LOADED_MODELSModelli caricati contemporaneamente, se ci stanno (3 per l'inferenza su CPU)OLLAMA_MAX_QUEUERichieste messe in coda quando c'è carico, prima di rifiutare le altre con 503OLLAMA_FLASH_ATTENTIONUsato automaticamente quando è supportato; 1 lo forza, 0 lo disattivaOLLAMA_KV_CACHE_TYPEq8_0 usa circa metà della memoria di f16 e q4_0 circa un quarto, con Flash Attention attivoOLLAMA_ORIGINSOrigini web aggiuntive autorizzate a chiamare Ollama, separate da virgoleOLLAMA_NO_CLOUDModalità solo locale, senza i modelli cloud né la ricerca web di OllamaImposta OLLAMA_NO_CLOUD=1HTTPS_PROXYProxy per il download dei modelli

Override per systemctl edit

Incollalo nell'editor che apre sudo systemctl edit ollama.service, tra le due righe di commento. Viene salvato come /etc/systemd/system/ollama.service.d/override.conf.

[Service]
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_MAX_LOADED_MODELS=1"
Environment="OLLAMA_NO_CLOUD=1"

Comandi

Eseguili sul server in quest'ordine. L'ultimo mostra le variabili ricevute dal servizio. Quando cambi OLLAMA_MODELS, i primi due creano la directory e la assegnano all'utente ollama; mkdir -p è un'aggiunta nostra, perché chown fallisce su una directory che non esiste.

sudo systemctl edit ollama.service
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment

Variabili e valori predefiniti come indicati nelle FAQ di Ollama, e regole sulle virgolette dal manuale di systemd.exec, verificati il 2026-11-03. FAQ di Ollama / systemd.exec: Environment=

Tutto avviene nel tuo browser. Nulla di ciò che inserisci viene inviato da nessuna parte.

Quando Ollama gira come servizio systemd su Linux, le FAQ ufficiali indicano di impostare le sue variabili d'ambiente con systemctl edit ollama.service: aggiungi una riga Environment per variabile sotto [Service], salva, poi esegui systemctl daemon-reload e systemctl restart ollama. I passaggi sono pochi, ma è facile sbagliare i dettagli. systemd espande gli specificatori, quindi un segno % va scritto come %%; una barra rovesciata o una virgoletta doppia dentro un'assegnazione tra virgolette viene letta come escape; e un valore con uno spazio va racchiuso tra virgolette per intero. Questo strumento scrive l'override per te. Offre solo le variabili documentate nelle FAQ, mostra accanto a ciascuna il valore predefinito documentato, racchiude ogni assegnazione tra virgolette come "NAME=value" e raddoppia i segni %. Ti avvisa quando un valore farebbe ascoltare Ollama su tutte le interfacce di rete, quando un numero non è intero e quando si sceglie una cache K/V quantizzata con Flash Attention disattivato. Abbiamo provato l'output su Ubuntu 24.04 con systemd 255: lo abbiamo incollato in systemctl edit e abbiamo verificato che il servizio ricevesse ogni valore invariato, inclusi spazi, $, ' e %.

La logica principale di questo strumento è open source, con licenza MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-systemd.ts

Casi d'uso

Tenere un modello in memoria più a lungo, o scaricarlo prima, su un piccolo VPS con OLLAMA_KEEP_ALIVE
Spostare i file dei modelli su un disco più grande con OLLAMA_MODELS
Limitare Ollama a un solo modello caricato e impostare la lunghezza del contesto predefinita su un server con poca memoria

Utilizzo

Compila solo le variabili che vuoi cambiare. I campi vuoti vengono omessi, quindi Ollama mantiene i suoi valori predefiniti. Il testo grigio in ogni campo è il valore predefinito indicato dalle FAQ.
Leggi gli avvisi. Un indirizzo di ascolto diverso da 127.0.0.1 o localhost rende Ollama raggiungibile da altre macchine, e le FAQ non descrivono alcuna autenticazione per questo caso.
Esegui sudo systemctl edit ollama.service, incolla il testo nell'editor tra le due righe di commento, salva ed esci. Poi esegui gli altri comandi per ricaricare systemd, riavviare Ollama e controllare i valori che ha ricevuto.

FAQ

Dove viene salvato il file?

systemctl edit lo salva come file drop-in, /etc/systemd/system/ollama.service.d/override.conf, e lascia invariato il file di unità principale. Quando lo abbiamo eseguito su Ubuntu 24.04, l'editor mostrava il commento ### Anything between here and the comment below will become the contents of the drop-in file. Incolla il testo tra quel commento e quello sotto.

Perché ogni valore è racchiuso tra virgolette doppie?

La documentazione di systemd dice che un valore che contiene spazi o un segno di uguale deve avere le virgolette attorno all'intera assegnazione. Racchiudere ogni riga allo stesso modo mantiene intatti i percorsi con spazi e le liste come OLLAMA_ORIGINS. La documentazione dice anche che $ qui non ha alcun significato speciale e viene quindi passato così com'è, mentre % introduce uno specificatore, perciò lo strumento scrive %% per un % letterale.

Quali caratteri non sono accettati?

Le virgolette doppie, le barre rovesciate e i caratteri di controllo come le tabulazioni. In un'assegnazione tra virgolette systemd li legge come escape o li rifiuta, quindi il valore non arriverebbe a Ollama come è stato digitato. Lo strumento li segnala come errori e omette quella riga.

È sicuro impostare OLLAMA_HOST su 0.0.0.0?

Fa ascoltare Ollama su tutte le interfacce di rete, quindi altre macchine possono raggiungerlo. Le FAQ dicono che Ollama per impostazione predefinita si lega a 127.0.0.1 porta 11434 e non descrivono alcuna autenticazione per il server. Il nostro consiglio, non un'affermazione dei documenti: mantieni il valore predefinito e raggiungi Ollama tramite un tunnel SSH o un proxy con password e HTTPS, e limita la porta 11434 nel firewall.

Posso mettere una password in HTTPS_PROXY?

Lo strumento avvisa quando l'indirizzo del proxy contiene un nome utente e una password. La documentazione di systemd dice che le variabili d'ambiente non sono adatte per passare segreti, perché i valori impostati per un'unità possono essere letti da client senza privilegi. Le FAQ dicono anche di evitare di impostare HTTP_PROXY, perché Ollama scarica i modelli solo tramite HTTPS e HTTP_PROXY può interrompere le connessioni dei client, quindi lo strumento offre solo HTTPS_PROXY.

Viene inviato qualcosa a un server?

No. L'override viene composto nel tuo browser.

Correlati

Ollama nginx Config Generator Local LLM Memory Estimator