Je vais installer ollama et ouvrir webui sur un vps auto-hébergé en tant que serveur sécurisé d'IA privée

S
ssoft786
S
ssoft786
Mehmud
Certaines informations ont été traduites automatiquement.

À propos de ce service

Traduction automatique

Si vous souhaitez un chat à la ChatGPT sans envoyer de données d'entreprise à quiconque, vous exécutez le modèle sur votre propre machine. C'est ce que fait ce service.


J'installe Ollama avec l'interface Open WebUI sur votre serveur, sur votre propre domaine avec SSL, et je configure des comptes utilisateur pour que votre équipe se connecte correctement au lieu de partager un seul lien.


Ce que vous obtenez :


Une interface de chat privée à votre propre adresse, des modèles téléchargés et prêts à l'emploi, et un serveur qui redémarre proprement et reste à jour. Avec le package Standard, j'installe les pilotes NVIDIA et CUDA si votre machine possède un GPU, ce qui fait la différence entre des réponses rapides et des réponses longues et pénibles.


Je serai honnête avec vous sur le matériel avant que vous dépensiez de l'argent. Les petits modèles fonctionnent convenablement sur CPU. Tout ce qui dépasse 30B nécessite un vrai GPU. Envoyez-moi la configuration de votre serveur et je vous dirai ce qui pourra réellement fonctionner dessus plutôt que de vous vendre un package qui déçoit.


Le package avancé ajoute un endpoint API que vos propres applications peuvent appeler, ainsi que le téléchargement de documents pour que vous puissiez poser des questions sur vos propres fichiers.


Contactez-moi d'abord avec vos spécifications si vous n'êtes pas sûr.

Découvrez Mehmud

Mehmud

Server and Email Migration, n8n, Docker and Self Hosted AI Setup

4,6(7)
  • DePakistan
  • Membre depuisjuin 2016
  • Dernière commande2 années
  • Langues

    Ourdou, Anglais
I have been running Linux and Windows servers for 9+ years - AWS, Google Cloud, DigitalOcean and plain VPS. Most of my work is migration: moving sites and data between servers, and moving business email from one provider to another without losing mail. I also set up self-hosted automation and AI stacks - n8n, Docker, Ollama with Open WebUI - for teams who want to own their infrastructure instead of monthly SaaS bills. And I clean up hacked servers and harden them so it does not happen again. Tell me what you are running and where you want it. If it is not a job I should take, I will say so.

Traduction automatique