~/tools / Chạy LLM cục bộ trên máy chủ của bạn / Ollama API Request Builder

Ollama API Request Builder — Tạo yêu cầu curl đến /api/chat của Ollama: format, tools, think, options

Tạo một yêu cầu đến endpoint /api/chat của Ollama từ một biểu mẫu: mô hình, thông điệp hệ thống và thông điệp người dùng, đầu ra có cấu trúc bằng format và JSON Schema, định nghĩa công cụ, suy nghĩ (thinking), truyền luồng, các tùy chọn như temperature và num_ctx, chuỗi dừng và keep_alive. Bạn nhận được một lệnh curl sẵn sàng chạy và phần thân JSON. Mọi trường đều lấy từ tài liệu tham khảo API chính thức của Ollama. Dữ liệu không rời khỏi trình duyệt của bạn.

curl http://localhost:11434/api/chat -d '{
  "model": "qwen3:4b",
  "messages": [
    {
      "role": "user",
      "content": "Tell me about Canada."
    }
  ],
  "format": {
    "type": "object",
    "properties": {
      "name": {
        "type": "string"
      },
      "capital": {
        "type": "string"
      },
      "languages": {
        "type": "array",
        "items": {
          "type": "string"
        }
      }
    },
    "required": [
      "name",
      "capital",
      "languages"
    ]
  },
  "options": {
    "temperature": 0
  },
  "stream": false
}'

{
  "model": "qwen3:4b",
  "messages": [
    {
      "role": "user",
      "content": "Tell me about Canada."
    }
  ],
  "format": {
    "type": "object",
    "properties": {
      "name": {
        "type": "string"
      },
      "capital": {
        "type": "string"
      },
      "languages": {
        "type": "array",
        "items": {
          "type": "string"
        }
      }
    },
    "required": [
      "name",
      "capital",
      "languages"
    ]
  },
  "options": {
    "temperature": 0
  },
  "stream": false
}

Endpoint /api/chat của Ollama nhận một thân JSON gồm mô hình và danh sách messages, cùng các trường tùy chọn: tools cho việc gọi hàm, format cho câu trả lời JSON hoặc câu trả lời theo một JSON Schema, options cho các thiết lập như temperature và num_ctx, stream, think và keep_alive. Viết thân này bằng tay trong terminal rất dễ sai: thiếu một dấu phẩy là hỏng, một dấu nháy đơn trong thông điệp kết thúc dấu ngoặc của shell, và một số gõ dưới dạng chữ có thể không được đọc như một số. Công cụ này tạo phần thân từ biểu mẫu và bọc nó trong một lệnh curl có dạng như các ví dụ trong tài liệu Ollama, đồng thời thoát các dấu nháy đơn cho shell. Nó kiểm tra rằng JSON Schema và danh sách công cụ là JSON hợp lệ, rằng mỗi công cụ có type, name và parameters mà tài liệu tham khảo API yêu cầu, và rằng các options là số đúng loại. Chúng tôi đã chạy các lệnh được tạo ra với Ollama 0.40.11 và qwen2.5:7b: một yêu cầu có JSON Schema trả về câu trả lời đúng dạng đó, một yêu cầu có công cụ trả về một lệnh gọi công cụ, còn truyền luồng, chế độ json, chuỗi dừng và keep_alive đều chạy mà không báo lỗi.

Phần xử lý chính của công cụ này là mã nguồn mở theo giấy phép MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-api-request.ts