Je vais configurer, valider et dépanner votre cluster GPU et votre infrastructure AI

Vous avez des GPU. Vous avez besoin qu'ils fonctionnent comme une plateforme de calcul fiable.

Je construis et gère des infrastructures GPU et HPC en production : provisioning, validation des pilotes et de la stack CUDA, planification, réseau à haute vitesse et surveillance. Je travaille au niveau de l'infrastructure. Je ne suis pas ingénieur en ML et je ne prétendrai pas l'être.

CE QUE JE FAIS

Activation des nœuds GPU : pilotes NVIDIA, validation de la toolkit CUDA et du runtime, mode persistance, MIG

Validation de la santé : diagnostics DCGM, triage des erreurs Xid et ECC, vérifications thermiques et de puissance

Communication multi-nœuds GPU : tests nccl, benchmarking all-reduce, réglages NCCL, validation du chemin réseau

Planification : partitions GPU SLURM et GRES, cgroups et liaison, ou Kubernetes avec le plugin NVIDIA et GPU Operator

Surveillance : Prometheus, exportateur DCGM, tableaux de bord Grafana

Automatisation : rôles Ansible pour rendre la construction reproductible

AVANT DE COMMANDER

Envoyez-moi un message avec le nombre de nœuds, le modèle de GPU, l'interconnexion et ce que vous observez. Si ce n'est pas quelque chose que je peux réellement réparer, je vous le dirai.

Vous obtenez une configuration fonctionnelle, un rapport de benchmark montrant ce qui a changé, et une documentation écrite.