~/ / Faire tourner un LLM local sur votre serveur
Des outils pour faire tourner Ollama sur votre propre ordinateur ou sur un VPS, dans l'ordre où vous en avez besoin. Estimez la mémoire dont un modèle a besoin, gardez le serveur actif avec systemd, publiez-le en toute sécurité derrière nginx et appelez son API. Quand quelque chose ne marche pas, lisez ses réponses, les détails du modèle et le journal du serveur.
Voir ce qu'Ollama garde en mémoire, combien de temps et quels réglages changent cela : ollama ps, keep_alive et les limites, d'après la FAQ officielle.
Publié: Outils utilisables: Local LLM Memory Estimator
Faites tourner Dify sur votre propre VPS avec Ollama comme modèle : installation, champs du plugin, problème d'adresse dans Docker et embeddings, d'après la documentation officielle.
Publié: Outils utilisables: Local LLM Memory Estimator
Pas de PC puissant ? Louez un VPS et faites tourner un petit LLM local depuis votre navigateur : six étapes, de l'estimation de la mémoire à un écran de discussion protégé, avec les limites indiquées honnêtement.
Publié: Outils utilisables: Local LLM Memory Estimator, LLM API Cost Calculator
Lancez Open WebUI avec Docker et connectez-le à Ollama sur votre propre serveur : les commandes, le premier compte, les deux types de connexion et la mise à jour.
Publié: Outils utilisables: Local LLM Memory Estimator
Contraindre la sortie d'un modèle local avec un JSON Schema et appeler Ollama depuis des clients de style OpenAI : ce que disent les documents officiels, et ce qui n'est pas pris en charge.
Publié: Outils utilisables: JSON Schema Validator, LLM JSON Repair, Ollama OpenAI Converter
Tools, thinking, vision, embeddings : ce que signifient les libellés de la bibliothèque Ollama, quels modèles les portent et quelle est la taille des téléchargements.
Publié: Outils utilisables: Local LLM Memory Estimator