~/ / Articoli sull'IA / LLM locali su un VPS / Avviare un LLM locale senza un PC costoso: guida per principianti all'uso di una VPS
Avviare un LLM locale senza un PC costoso: guida per principianti all'uso di una VPS
Non serve comprare un computer potente per provare un modello linguistico locale. Puoi affittare un server, chiamato VPS, installarci il modello e parlarci dal browser di qualsiasi dispositivo. Questa guida ti porta da zero a una schermata di chat funzionante e protetta in sei passaggi. Lungo il percorso usa gli strumenti di questo sito e dice chiaramente che cosa una VPS senza GPU può e non può promettere.
Pubblicato: · 5 min di lettura · Fatti verificati sulla documentazione ufficiale e sulle pagine ufficiali dei servizi VPS in data 2026-10-26. Piani, prezzi e impostazioni predefinite cambiano, quindi controllali prima di pagare.
Che cosa aspettarsi e che cosa no
Una VPS è un computer in un data center che si prende in affitto. Qui, per LLM locale si intende un modello che gira su quel computer, invece di un servizio che si richiama via internet. Le tue chat restano su un server che controlli tu.
Una VPS non sostituisce un PC con una scheda grafica potente, e questa guida non lo sostiene. Ecco che cosa abbiamo potuto verificare e che cosa no.
| Domanda | Che cosa abbiamo trovato |
|---|---|
| I piani VPS hanno una GPU? | Nessuna delle sei pagine VPS che abbiamo controllato elenca un piano con GPU. Le pagine di ConoHa e XServer rimandano a servizi GPU separati. |
| Allora dove gira il modello? | Nella memoria del server, sulla CPU. La FAQ di Ollama dice che ollama ps mostra 100% CPU quando un modello è stato caricato interamente nella memoria di sistema. |
| Quanto è veloce? | Non lo sappiamo. I documenti che abbiamo controllato non riportano cifre di velocità per il funzionamento solo CPU, e noi non ne abbiamo misurata nessuna. Comincia con un modello piccolo e provalo. |
| Che cosa decide se gira o no? | La memoria. Un modello che non sta nella memoria del server non girerà bene. Il passaggio 1 mostra come stimarla. |
Se chatti solo ogni tanto, un servizio di IA a pagamento che si richiama via internet può costare meno di un server che resta acceso tutto il mese. Il passaggio 3 include un calcolatore per confrontare con i tuoi numeri.
Passaggio 1: stima la memoria che ti serve
Un modello ha bisogno di memoria per il proprio file, per la cache che cresce con la lunghezza della conversazione e per il sistema operativo. La tabella mostra la nostra stima per sei modelli con una lunghezza di contesto di 4,096 token, una richiesta alla volta, con 1 GiB riservato al sistema. Le stime sono calcolate a partire dalle dimensioni della libreria di Ollama e dalle configurazioni ufficiali dei modelli, quindi sono stime e non misurazioni.
| Modello | Totale stimato (GiB) | Dimensione di memoria comune più piccola (GiB) |
|---|---|---|
| Qwen3 0.6B | 1.92 | 2 |
| Qwen3 1.7B | 2.74 | 4 |
| Qwen3 4B | 3.89 | 4 |
| Qwen3 8B | 6.41 | 8 |
| Qwen3 14B | 10.29 | 12 |
| Mistral 7B (v0.3) | 5.60 | 8 |
Provalo: Local LLM Memory Estimator
Stima
- Pesi del modello
- 4.84 GiB
- Cache KV
- 0.56 GiB
- Riserva
- 1.00 GiB
- Totale
- 6.41 GiB (6.88 GB)
- Più piccola dimensione di memoria comune che lo contiene
- 8 GiB
Questa è una stima. Non include i buffer di calcolo del runtime e presuppone che ogni layer abbia la stessa forma KV. Misura un'esecuzione reale prima di scegliere un piano.
Dati del modello verificati il 2026-10-26.
Fonti: Ollama library · Configurazione del modello (config.json) · Ollama FAQ
Tutto viene eseguito nel tuo browser. Non viene caricato nulla.
Passaggio 2: scegli un modello
La libreria di Ollama etichetta ogni modello con ciò che sa fare. Un modello con l'etichetta tools può chiamare funzioni che definisci tu, thinking mostra il ragionamento separato dalla risposta, vision accetta immagini ed embedding trasforma il testo in vettori per la ricerca. Per una prima chat non ti serve nessuna di queste, quindi scegli prima in base alla memoria.
| Tag | Labels | Dimensione del download | Classe di memoria da prevedere |
|---|---|---|---|
| qwen3:4b | tools, thinking | 2.5 GB | 4 GiB |
| llama3.2:3b | tools | 2.0 GB | non stimata qui |
| gemma3:4b | vision | 3.4 GB | non stimata qui |
| mistral:7b | tools | 4.4 GB | 8 GiB |
La dimensione del download è la memoria minima di cui un modello ha bisogno. I modelli senza stima non sono tra i preset del calcolatore, perché servono i loro strati e le dimensioni delle head dalla configurazione del modello; puoi inserirli a mano come modello personalizzato.
Passaggio 3: scegli una VPS
Guarda prima la memoria, poi il disco per i file del modello, poi la CPU. Il disco conta perché un solo file di modello pesa diversi gigabyte. Poi guarda quanta parte dell'ambiente il servizio ha già preparato. Dei sei servizi indicati alla fine di questa guida, le pagine di ConoHa VPS, KAGOYA CLOUD VPS e XServer VPS menzionano Dify, e la pagina di ConoHa VPS elenca anche n8n e Claude Code tra i suoi script di avvio. Nessuno dei sei elenca un server di modelli come Ollama, quindi lo installi tu nel passaggio 4.
La sezione in fondo a questa pagina confronta i sei servizi a partire dalle loro pagine ufficiali. Qui puoi confrontare un server con un servizio di IA che si richiama via internet.
Provalo: LLM API Cost Calculator
Costo stimato
Inserisci i prezzi e il numero di token per vedere il costo.
Pagine ufficiali dei prezzi
Questo si limita a moltiplicare i numeri che inserisci. Non conosce i prezzi del fornitore, né sconti, caching, tariffe batch, prezzi a scaglioni o imposte.
Per conoscere i token di input di un prompt, usa il Token Counter.
Passaggio 4: installa Ollama
Questi sono i comandi della documentazione ufficiale di Ollama per Linux. Leggi uno script prima di eseguirlo su un server importante.
| Passaggio | Comando |
|---|---|
| Installare | curl -fsSL https://ollama.com/install.sh | sh |
| Verificare che giri | ollama -v |
| Eseguire un modello della libreria | ollama run qwen3:4b |
Per avviare Ollama all'avvio del sistema e tenerlo in esecuzione, la documentazione descrive un servizio systemd. I passaggi completi, le impostazioni e gli aggiornamenti si trovano negli articoli di approfondimento elencati verso la fine.
Passaggio 5: chatta nel browser
Scrivere in un terminale basta per provare un modello. Per l'uso di ogni giorno, Open WebUI offre una schermata di chat nel browser. La sua guida rapida lo avvia con un solo comando e lo serve su http://localhost:3000. Sostituisci your-secret-key con un valore generato con openssl rand -hex 32.
| Passaggio | Comando |
|---|---|
| Avviare Open WebUI | docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main |
- Il primo account che crei è l'amministratore, e la registrazione si disattiva da sola quando esiste l'account admin. Crealo subito.
- La guida mostra due modi per collegare Open WebUI a Ollama, e l'articolo di approfondimento li spiega entrambi.
Passaggio 6: tienilo privato
Ollama ascolta per impostazione predefinita su 127.0.0.1 port 11434, che è la configurazione più sicura, e la sua documentazione non descrive alcuna autenticazione propria. La nostra raccomandazione, non un'affermazione dei documenti: non aprire quella porta a internet. Metti davanti nginx con una password e HTTPS, e usa un firewall che ammetta solo gli indirizzi che usi tu.
- Tieni la chiave segreta e le password fuori da tutto ciò che committi.
- Aggiorna ogni tanto Ollama e Open WebUI, e quando lo fai conserva il volume dati di Open WebUI.
Approfondisci
- 1Quanta memoria serve a un LLM locale su una VPS? File del modello più cache KVFile del modello più cache KV: cosa dicono la libreria di Ollama, le FAQ di Ollama e le configurazioni ufficiali dei modelli sulla memoria che serve a un LLM locale su una VPS.
- 2Cosa sa fare un modello locale? Tools, thinking, vision ed embedding in Ollama, e cosa entra in una VPSTools, thinking, vision, embedding: cosa significano le etichette della libreria di Ollama, quali modelli le portano e quanto pesano i download.
- 3Installare Ollama su un VPS e tenerlo in funzione: installazione, servizio systemd, impostazioni e aggiornamentiInstallare Ollama su un VPS Linux e tenerlo in funzione: il comando di installazione, il servizio systemd, le variabili d'ambiente, la cartella dei modelli e gli aggiornamenti, dalla documentazione ufficiale.
- 4Open WebUI su una VPS: eseguirlo in Docker e collegarlo a OllamaEsegui Open WebUI con Docker e collegalo a Ollama sul tuo server: i comandi, il primo account, i due tipi di connessione e come aggiornare.
- 5Mettere nginx davanti a Ollama: autenticazione basic, HTTPS e impostazioni per lo streamingRaggiungere Ollama dall'esterno in modo sicuro: nginx come proxy, autenticazione basic, HTTPS, impostazioni di streaming e timeout e una regola del firewall, dalla documentazione ufficiale.
- 6Eseguire l'IA su un proprio VPS: quanta memoria prevedere e cosa non esporrePensi di eseguire Ollama o Dify su un VPS? Cosa dice la documentazione ufficiale su memoria, inferenza solo CPU e porte da tenere chiuse.
Fonti
Leggi anche
- Mettere nginx davanti a Ollama: autenticazione basic, HTTPS e impostazioni per lo streamingRaggiungere Ollama dall'esterno in modo sicuro: nginx come proxy, autenticazione basic, HTTPS, impostazioni di streaming e timeout e una regola del firewall, dalla documentazione ufficiale.
- Open WebUI su una VPS: eseguirlo in Docker e collegarlo a OllamaEsegui Open WebUI con Docker e collegalo a Ollama sul tuo server: i comandi, il primo account, i due tipi di connessione e come aggiornare.
- Chiamare un modello locale dal proprio codice: structured outputs e API compatibile con OpenAI in OllamaVincola l'output di un modello locale con un JSON Schema e chiama Ollama da client in stile OpenAI: cosa dice la documentazione ufficiale e cosa non è supportato.
- Cosa sa fare un modello locale? Tools, thinking, vision ed embedding in Ollama, e cosa entra in una VPSTools, thinking, vision, embedding: cosa significano le etichette della libreria di Ollama, quali modelli le portano e quanto pesano i download.