~/ / AI 文章 / 在 VPS 上跑本機 LLM / 本機模型能做什麼？Ollama 的 tools、thinking、vision 與 embedding，以及 VPS 跑得動什麼

本機模型能做什麼？Ollama 的 tools、thinking、vision 與 embedding，以及 VPS 跑得動什麼

本機模型不只是一個聊天框。Ollama 模型庫會用模型能做的事替它們貼上標籤，文件也逐一說明：呼叫工具、顯示推理過程、讀取圖片，以及把文字轉成向量以供搜尋。本文說明每個標籤的意思，列出十個模型的標籤與下載大小，並示範如何讓你想做的事與伺服器的記憶體相符。

發布: 2026-10-26 · 約 5 分鐘讀完 · 標籤、大小與 context window 已於 2026-10-26 對照 Ollama 模型庫與文件核對。模型庫經常更新，請在使用前確認你打算用的 tag 頁面。

四個標籤

Ollama 模型庫會標示每個模型支援的功能。在伺服器上開發時，有四個標籤特別重要。文件對它們的說明如下。

標籤	文件的說明	使用方式
tools	工具呼叫（tool calling，也稱為函式呼叫）讓模型可以叫用工具，並把工具的結果納入回覆中。它支援單一工具呼叫、平行工具呼叫，以及多輪的代理迴圈。	在傳給 /api/chat 的請求中，於 tools 欄位列出可用的工具。模型呼叫工具時，由你執行該工具，並以角色 tool 的訊息把輸出送回去。
thinking	具備 thinking 能力的模型會把推理過程與最終答案分開輸出，因此你可以檢視模型的推論步驟，或選擇隱藏這段過程。	在請求中設定 think 參數。推理內容會回傳在 message.thinking，答案則在 message.content。
vision	Vision 模型除了文字之外也接受圖片，因此模型可以描述、分類，並回答關於圖片內容的問題。	在訊息中傳入 images 陣列。REST API 需要 base64 編碼的圖片資料。
embedding	Embedding 是數值向量，可以存入向量資料庫、用餘弦相似度（cosine similarity）搜尋，或用在 RAG 流程中。	呼叫 /api/embed。文件建議大多數語意搜尋使用餘弦相似度，並且建立索引與查詢時使用同一個 embedding 模型。

下表列出 Ollama 模型庫為每個模型系列顯示的標籤，並附上一個 tag、該 tag 在標籤清單中那一列顯示的大小，以及它的 context window。這個大小是下載大小，所以是模型需要的最低記憶體，不是規劃時該預留的量。

Tag	Labels	Download size	Context window	模型庫的描述
qwen3:4b	tools, thinking	2.5 GB	256K	Qwen3 是 Qwen 系列最新一代的大型語言模型
llama3.2:3b	tools	2.0 GB	128K	Meta 的 Llama 3.2 推出小型的 1B 與 3B 模型
gemma3:4b	vision	3.4 GB	128K	能在單一 GPU 上執行的最強大模型
qwen3-vl:4b	vision, tools, thinking	3.3 GB	256K	目前 Qwen 家族中最強大的視覺語言模型
deepseek-r1:7b	tools, thinking	4.7 GB	128K	一系列開放的推理模型
qwen2.5-coder:7b	tools	4.7 GB	32K	Qwen 系列最新的程式碼專用模型
mistral:7b	tools	4.4 GB	32K	Mistral AI 發布的 7B 模型，已更新至 0.3 版
gpt-oss:20b	tools, thinking	14 GB	128K	OpenAI 的開放權重模型，用於推理與代理任務
nomic-embed-text	embedding	274 MB	2K	具有大型 token context window 的開放 embedding 模型
embeddinggemma	embedding	622 MB	2K	Google 推出的 300M 參數 embedding 模型

標籤屬於模型系列，而一個系列有多種大小。下載前，請開啟你打算使用的確切 tag 頁面，確認它的輸入類型與大小。

文件列出了每項功能的用途，以下是我們對這些功能在自架伺服器上的意義所作的解讀，並不是對品質的主張：

Tools：能在你自己的系統中查詢資料或觸發動作的助理，因為由模型要求使用工具，再由你的程式碼執行。你送出的工具定義必須符合 API 的結構，這可以用 Tool Definition Checker 來檢查。
Thinking：適合想把模型的推理過程獨立檢視或記錄的情境，例如在測試提示詞時。推理會先於答案出現，所以一次回應會用到更多 token。
Vision：用接受圖片與文字的模型來描述或分類圖片，或回答關於圖片的問題。
Embedding：依語意搜尋，以及用於 RAG 的檢索。表中的兩個 embedding 模型下載量很小，分別是 274 MB 與 622 MB，遠小於聊天模型。

記憶體決定你能執行什麼。上面的下載大小只是下限，context 長度還會在其上加上 KV cache。針對 Qwen3 與 Mistral 7B 模型，下方的計算器使用官方的設定值，因此你可以看到依你的 context 長度與考慮中的方案所需的總量。

對於表中其他模型，計算器沒有預設值，因為它需要各模型設定檔中的層數、KV head 數與 head 維度。你可以把它們當作自訂模型輸入。

模型

Ollama 標籤 qwen3:8b,量化 Q4_K_M,下載大小 5.2 GB。

檔案大小 (GB)層數KV headsHead dimension

上下文長度 (token)平行請求數KV cache 類型留給 OS 與其他服務的保留量 (GiB)方案的記憶體 (GiB,選填)

這是估算值。其中不包含執行環境的運算緩衝區,並假設每一層的 KV 形狀都相同。在選擇方案之前,請先量測實際執行的情況。

模型資料確認日期:2026-10-26。

所有處理都在你的瀏覽器中進行,不會上傳任何內容。

從你需要的功能出發，挑選帶有該標籤的最小模型，並在決定方案之前，先在測試用伺服器上量測記憶體與速度。
依你的用途對照表中的 context window：兩個 embedding 模型標示 2K，而 mistral:7b 與 qwen2.5-coder:7b 標示 32K。
一個模型可以同時具備多項功能。Qwen3 帶有 tools 與 thinking，而 Qwen3-VL 再加上 vision。
模型庫經常新增模型。請把這張表當作上述日期的快照。