~/ / AI 기사 / VPS에서 로컬 LLM / 로컬 모델은 무엇을 할 수 있을까? Ollama의 tools, thinking, vision, embedding과 VPS에서 돌릴 수 있는 범위

로컬 모델은 무엇을 할 수 있을까? Ollama의 tools, thinking, vision, embedding과 VPS에서 돌릴 수 있는 범위

로컬 모델은 단순한 채팅창이 아닙니다. Ollama 라이브러리는 모델이 할 수 있는 일을 라벨로 표시하고, 문서는 그 각각을 설명합니다. 도구 호출, 추론 과정 보여 주기, 이미지 읽기, 검색을 위해 텍스트를 벡터로 바꾸기가 그것입니다. 이 글에서는 각 라벨이 무엇을 뜻하는지 설명하고, 모델 10개의 라벨과 다운로드 크기를 표로 정리하며, 하고 싶은 일을 서버의 메모리에 맞추는 방법을 보여 드립니다.

게시: 2026-10-26 · 읽는 데 약 6분 · 라벨, 크기, 컨텍스트 윈도우는 2026-10-26에 Ollama 라이브러리와 문서에서 확인했습니다. 라이브러리는 자주 바뀌므로, 사용하려는 태그의 페이지를 직접 확인하세요.

네 가지 라벨

Ollama 라이브러리는 각 모델이 지원하는 기능을 라벨로 표시합니다. 서버에서 무언가를 만들 때 중요한 것은 그중 네 가지입니다. 문서는 이를 다음과 같이 설명합니다.

라벨	문서의 설명	사용 방법
tools	도구 호출(함수 호출이라고도 함)을 사용하면 모델이 도구를 호출하고 그 결과를 답변에 반영할 수 있습니다. 단일 도구 호출, 병렬 도구 호출, 여러 턴에 걸친 에이전트 루프를 지원합니다.	/api/chat 요청의 tools 필드에 사용할 수 있는 도구를 나열합니다. 모델이 도구를 호출하면 이를 실행하고, 그 출력을 role이 tool인 메시지로 돌려보냅니다.
thinking	thinking을 지원하는 모델은 추론 과정을 최종 답변과 따로 출력하므로, 모델의 단계를 검토하거나 추론 과정을 숨길 수 있습니다.	요청에 think 매개변수를 지정합니다. 추론 과정은 message.thinking으로, 답변은 message.content로 돌아옵니다.
vision	vision 모델은 텍스트와 함께 이미지를 받으므로, 모델이 보고 있는 것을 설명하거나 분류하고 그에 대한 질문에 답할 수 있습니다.	메시지에 images 배열을 전달합니다. REST API는 base64로 인코딩된 이미지 데이터를 기대합니다.
embedding	임베딩은 숫자로 이루어진 벡터로, 벡터 데이터베이스에 저장하거나 코사인 유사도로 검색하거나 RAG 파이프라인에서 사용할 수 있습니다.	/api/embed를 호출합니다. 문서는 대부분의 의미 검색에 코사인 유사도를 권장하며, 인덱싱할 때와 질의할 때 같은 임베딩 모델을 사용하도록 권장합니다.

모델 10개와 그 라벨

이 표는 Ollama 라이브러리가 각 모델 패밀리에 표시하는 라벨을, 태그 하나, 태그 목록에서 그 태그의 행에 표시된 크기, 컨텍스트 윈도우와 함께 정리한 것입니다. 이 크기는 다운로드 크기이므로, 모델에 필요한 최소한의 메모리일 뿐 계획에 쓸 메모리 양이 아닙니다.

Tag	Labels	Download size	Context window	라이브러리의 한 줄 설명
qwen3:4b	tools, thinking	2.5 GB	256K	Qwen3는 Qwen 시리즈의 최신 세대 대규모 언어 모델입니다
llama3.2:3b	tools	2.0 GB	128K	Meta의 Llama 3.2는 1B와 3B 모델로 소형화를 꾀했습니다
gemma3:4b	vision	3.4 GB	128K	GPU 하나에서 돌아가는 모델 중 가장 성능이 뛰어난 모델
qwen3-vl:4b	vision, tools, thinking	3.3 GB	256K	지금까지 나온 Qwen 패밀리에서 가장 강력한 비전-언어 모델
deepseek-r1:7b	tools, thinking	4.7 GB	128K	오픈 추론 모델 패밀리
qwen2.5-coder:7b	tools	4.7 GB	32K	코드에 특화된 Qwen 모델의 최신 시리즈
mistral:7b	tools	4.4 GB	32K	Mistral AI가 공개한 7B 모델로, 버전 0.3으로 업데이트되었습니다
gpt-oss:20b	tools, thinking	14 GB	128K	추론과 에이전트 작업을 위한 OpenAI의 오픈 웨이트 모델
nomic-embed-text	embedding	274 MB	2K	큰 토큰 컨텍스트 윈도우를 갖춘 오픈 임베딩 모델
embeddinggemma	embedding	622 MB	2K	Google의 300M 파라미터 임베딩 모델

라벨은 모델 패밀리에 붙는 것이고, 한 패밀리에는 여러 크기가 있습니다. 다운로드하기 전에, 사용하려는 정확한 태그의 페이지를 열어 입력 유형과 크기를 확인하세요.

기능을 작업에 맞추기

문서는 각 기능의 용도를 설명하고 있습니다. 아래는 이것이 직접 운영하는 서버에서 무엇을 뜻하는지에 대한 저희의 해석이며, 품질에 대한 주장이 아닙니다:

Tools: 모델이 도구를 요청하고 여러분의 코드가 그것을 실행하므로, 자체 시스템에서 무언가를 조회하거나 동작을 일으킬 수 있는 어시스턴트. 보내는 도구 정의는 API의 형식을 따라야 하며, 이는 Tool Definition Checker로 확인할 수 있습니다.
Thinking: 모델의 추론 과정을 따로 보거나 기록하고 싶은 답변, 예를 들어 프롬프트를 테스트할 때. 추론 과정이 답변보다 먼저 도착하므로 응답에 더 많은 토큰이 듭니다.
Vision: 텍스트와 함께 이미지를 받는 모델로 이미지를 설명하거나 분류하거나, 이미지에 대한 질문에 답하기.
Embedding: 의미 기반 검색과 RAG를 위한 검색. 표의 임베딩 모델 두 개는 다운로드 크기가 274 MB와 622 MB로 작아서, 채팅 모델보다 훨씬 작습니다.

VPS에서 돌릴 수 있는 범위

무엇을 돌릴 수 있는지는 메모리가 결정합니다. 위의 다운로드 크기는 최소치이고, 그 위에 컨텍스트 길이에 따른 KV 캐시가 더해집니다. Qwen3와 Mistral 7B 모델에 대해서는 아래 계산기가 공식 구성 값을 사용하므로, 컨텍스트 길이와 검토 중인 플랜에 맞는 합계를 확인할 수 있습니다.

표의 나머지 모델에는 계산기의 프리셋이 없습니다. 각 모델의 구성 파일에서 레이어 수, KV 헤드 수, 헤드 차원이 필요하기 때문입니다. 사용자 지정 모델로 직접 입력할 수 있습니다.

직접 해 보기: Local LLM Memory Estimator

모델

Ollama 태그 qwen3:8b, 양자화 Q4_K_M, 다운로드 크기 5.2 GB.

파일 크기 (GB)레이어 수KV 헤드 수헤드 차원

컨텍스트 길이 (토큰)동시 요청 수KV 캐시 유형OS와 다른 서비스용 예비분 (GiB)플랜의 메모리 (GiB, 선택 사항)

추정값

모델 가중치: 4.84 GiB
KV 캐시: 0.56 GiB
예비분: 1.00 GiB
합계: 6.41 GiB (6.88 GB)
담을 수 있는 가장 작은 일반 메모리 크기: 8 GiB

이 값은 추정입니다. 런타임의 연산 버퍼는 포함하지 않으며, 모든 레이어의 KV 구조가 같다고 가정합니다. 플랜을 정하기 전에 실제로 실행해 측정하세요.

모델 데이터 확인일: 2026-10-26.

출처: Ollama library · 모델 구성 파일 (config.json) · Ollama FAQ

모든 처리는 브라우저 안에서 이루어지며 아무것도 업로드되지 않습니다.

고르는 방법

필요한 기능에서 출발해, 그 라벨을 가진 모델 중 가장 작은 것을 고른 다음, 플랜을 정하기 전에 테스트 서버에서 메모리와 속도를 측정하세요.
표의 컨텍스트 윈도우를 용도와 비교해 확인하세요. 임베딩 모델 두 개는 2K이고, mistral:7b와 qwen2.5-coder:7b는 32K입니다.
한 모델에 여러 기능이 함께 있을 수 있습니다. Qwen3에는 tools와 thinking이 있고, Qwen3-VL에는 vision이 더해집니다.
라이브러리에는 새 모델이 자주 올라옵니다. 이 표는 위에 적은 날짜 시점의 스냅숏으로 보세요.