Je vais installer ollama et ouvrir webui sur un vps auto-hébergé en tant que serveur sécurisé d'IA privée


À propos de ce service
Traduction automatique
Si vous souhaitez un chat à la ChatGPT sans envoyer de données d'entreprise à quiconque, vous exécutez le modèle sur votre propre machine. C'est ce que fait ce service.
J'installe Ollama avec l'interface Open WebUI sur votre serveur, sur votre propre domaine avec SSL, et je configure des comptes utilisateur pour que votre équipe se connecte correctement au lieu de partager un seul lien.
Ce que vous obtenez :
Une interface de chat privée à votre propre adresse, des modèles téléchargés et prêts à l'emploi, et un serveur qui redémarre proprement et reste à jour. Avec le package Standard, j'installe les pilotes NVIDIA et CUDA si votre machine possède un GPU, ce qui fait la différence entre des réponses rapides et des réponses longues et pénibles.
Je serai honnête avec vous sur le matériel avant que vous dépensiez de l'argent. Les petits modèles fonctionnent convenablement sur CPU. Tout ce qui dépasse 30B nécessite un vrai GPU. Envoyez-moi la configuration de votre serveur et je vous dirai ce qui pourra réellement fonctionner dessus plutôt que de vous vendre un package qui déçoit.
Le package avancé ajoute un endpoint API que vos propres applications peuvent appeler, ainsi que le téléchargement de documents pour que vous puissiez poser des questions sur vos propres fichiers.
Contactez-moi d'abord avec vos spécifications si vous n'êtes pas sûr.
Découvrez Mehmud
Server and Email Migration, n8n, Docker and Self Hosted AI Setup
- DePakistan
- Membre depuisjuin 2016
- Dernière commande2 années
Langues
Ourdou, Anglais
Traduction automatique
FAQ
Traduction automatique
Quel serveur faut-il pour cela ?
Pour des modèles de 7B à 8B sur CPU, 4 vCPU et 16 Go de RAM constituent un minimum acceptable. Pour tout plus grand ou pour des réponses rapides, vous avez besoin d'un GPU NVIDIA avec 16 Go ou plus de VRAM. Envoyez-moi votre configuration et je vous donnerai une réponse claire avant de commander.
Quels modèles pouvez-vous installer ?
Tout ce qui se trouve dans la bibliothèque Ollama : Llama, Mistral, Qwen, Gemma, DeepSeek et autres. Dites-moi à quoi vous en avez besoin et je vous suggérerai une taille adaptée à votre matériel.
Mes données sont-elles vraiment privées ?
Oui. Le modèle fonctionne sur votre machine et rien n'est envoyé à un fournisseur extérieur. Il n'y a pas de clés API pour OpenAI ou d'autres. C'est la raison principale pour laquelle l'auto-hébergement est préférable à un service hébergé.
Toute mon équipe peut-elle l’utiliser ?
Oui. Open WebUI dispose de comptes utilisateur et de contrôles administratifs appropriés, de sorte que les personnes se connectent avec leurs propres identifiants plutôt que de partager un seul lien. Je configure cela dans les packages Standard et Advanced.

