Parcourir les catégories
Explorer
Fiverr Pro
Français
$
USD
Je déploierai et gérerai l'infrastructure mlops, llm et gpu sur aws et kubernetes
Ingénieur DevOps senior en IA : AWS, Kubernetes, API ComfyUI, DevSecOps
Ingénieur en AI DevSecOps et infrastructure cloud, 4 ans dans la construction de systèmes en production. Je fournis ce que la plupart des projets IA manquent : l’infrastructure sous-jacente.
Je trava...
À propos de ce service
Je mets les modèles d'IA en production et je les maintiens en fonctionnement. Un script d'entraînement n'est pas un produit. Un service surveillé, versionné, avec autoscaling l'est.
CE QUE JE CONSTRUIS
pipelines MLOps : suivi avec MLflow ou Weights and Biases, registre de modèles, réentraînement automatisé et déploiement sécurisé
service LLM : vLLM, Ollama, TGI et modèles Hugging Face derrière une API compatible OpenAI
infrastructure GPU : AWS EC2 g5 et g6, EKS avec groupes de nœuds GPU, RunPod et Vast.ai, instances spot et autoscaling pour réduire votre facture
conteneurs : Docker, Kubernetes, Helm, planification GPU, vérifications de santé et déploiement sans interruption
CI/CD pour modèles et code : GitHub Actions, Jenkins, ArgoCD et GitOps
observabilité : Prometheus, Grafana, traçage des requêtes, tableaux de bord de latence et de coût par token
sécurité : IAM avec privilèges minimaux, points de terminaison VPC privés, gestion des secrets et SSL
CE QUE VOUS OBTENEZ
Une infrastructure fonctionnelle, le code source Terraform ou Helm que vous possédez, la documentation du runbook, et un appel de transfert pour que votre équipe puisse l'exploiter sans moi.
Quatre ans d'expérience en DevOps et infrastructure IA. Dites-moi votre modèle, le trafic attendu et le cloud, et je le dimensionnerai en vous donnant un coût mensuel réaliste avant votre commande. Je travaille selon les horaires US.
Outils:
Kubernetes
•
Docker
•
Amazon EKS
Frameworks:
Terraform
•
Ansible
Langage de programmation:
Bash
•
Go
•
Python
Expertise:
Installation
•
Migration
•
Débogage
Autres services de Ingénierie DevOps I Offre
FAQ
Traduction automatique
Quels modèles pouvez-vous déployer ?
Tout modèle open source sur Hugging Face, plus Llama, Mistral, Qwen, DeepSeek et vos propres fine tunes. Pour l'image et la vidéo, je gère aussi Flux, SDXL et Wan. Dites-moi le modèle et je vous confirmerai le GPU nécessaire.
Ai-je besoin de mon propre compte cloud ?
Oui, et c'est volontaire. Tout fonctionne dans votre compte AWS, GCP ou RunPod, vous possédez l'infrastructure et contrôlez la facturation. Je l'installe et vous la remets.
Combien cela coûtera-t-il par mois ?
Cela dépend de la taille du modèle et du trafic. Avant votre commande, je vous donne une estimation de dimensionnement : type de GPU, utilisation prévue et fourchette mensuelle. Les instances spot et le scaling à zéro réduisent généralement beaucoup le coût.
Obtiens-je le code source Terraform et Helm ?
Toujours. Vous recevez le dépôt complet, les Dockerfiles, les charts Terraform ou Helm et la documentation API, pour que vous ou un autre ingénieur puissiez le maintenir plus tard.
Pouvez-vous réparer une configuration existante au lieu d'en créer une nouvelle ?
Oui. Les déploiements défaillants, les crashs OOM, les nœuds GPU qui ne planifient pas, les factures cloud incontrôlées et l'infrastructure non documentée font partie de ce que je gère.
Proposez-vous des LLM auto-hébergés sur site ?
Oui. Ollama ou vLLM avec Open WebUI sur votre propre serveur ou station GPU, totalement hors ligne, sans que les données quittent votre réseau.
Quel type de surveillance puis-je obtenir ?
Prometheus et Grafana avec tableaux de bord pour la latence, le débit, l'utilisation du GPU, le taux d'erreur et le coût par requête, plus des alertes qui vous préviendront avant que vos utilisateurs ne s'en aperçoivent.
Quelles sont vos horaires de travail?
Je suis disponible 24/7 et je travaille selon les horaires US, donc nous pouvons discuter dans votre fuseau horaire. Je réponds généralement en une heure.
