Parcourir les catégories
Explorer
Fiverr Pro
Français
$
USD
Je vais déployer, affiner et optimiser des llms et vlms locaux
Akash Bhansali
À propos de ce service
Traduction automatique
IA haute performance, optimisée pour votre infrastructure
Vous souhaitez exécuter des modèles open-source puissants sans dépenser une fortune en coûts cloud ? Je me spécialise dans la rendre les Large Language Models (LLMs) et Vision-Language Models (VLMs) plus rapides, plus légers et plus intelligents.
️ Ce que je fais :
- Fine-tuning personnalisé : Adapter les modèles (Llama, Mistral, Qwen, Phi) à votre jeu de données spécifique en utilisant des techniques avancées comme LoRA/QLoRA (PEFT).
- Quantification : Réduire la taille des modèles (GGUF, AWQ, EXL2) pour qu'ils fonctionnent efficacement sur du matériel grand public ou des petites instances cloud sans sacrifier la précision.
- Optimisation de l'inférence : Mettre en place des frameworks d'inférence ultra rapides (vLLM, TensorRT-LLM, Ollama) pour un débit maximal.
Pourquoi me choisir ?
- Expertise complète : De la préparation de données brutes au déploiement prêt pour la production.
- Souci du coût : Axé sur la réduction de votre empreinte VRAM en production et de vos coûts de calcul.
- Code propre et documenté : Livraison complète avec scripts de déploiement.
Découvrez Akash Bhansali
Akash Bhansali
Whatever it Takes
- DeInde
- Membre depuisjanv. 2021
- Temps de réponse moy.5 heures
- Dernière commande2 années
Langues
Anglais, Hindi, Allemand
Hi, I'm Akash, an AI & Robotics Engineer specializing in bridging the gap between simulation and real-world deployment. With an M.Sc. in AI & Robotics, I build high-performance pipelines.
What I do:
🔹 Physical AI: Sim2Real & Real2Sim Robotics, MuJoCo, Isaac Sim/Lab, ROS, VLA and control workflows.
🔹 Applied ML & Vision: Real-time tracking (SAM2), detection, tracking, ViTs, etc.
🔹 LLM/VLM Systems: Fine-tuning (LoRA), optimization, quantization, and intelligent agents.
🔹 Research & Implementation
📩 Message me today to discuss your project requirements before placing an order!
Traduction automatique
FAQ
Traduction automatique
Avec quels modèles travaillez-vous ?
Je travaille avec tous les principaux LLMs et VLMs open source, y compris Llama 3, Mistral, Qwen, Phi-3 et Llava, sur des frameworks comme Hugging Face, PyTorch et DeepSpeed.
Dois-je fournir le dataset pour le fine-tuning ?
Oui, idéalement un jeu de données propre au format JSON ou CSV. Cependant, si vous avez besoin d’aide pour le formatage ou le prétraitement du dataset, cela peut être inclus dans le périmètre du projet.
Qu’est-ce que la quantification et cela réduit-il la performance ?
La quantification compresse les poids du modèle d’une précision élevée à une précision inférieure (par exemple, 32‑bit à 8‑bit), ce qui réduit l’utilisation de mémoire. Lorsqu’elle est réalisée avec soin, l’impact sur la performance est minimal et la vitesse d’inférence s’améliore souvent.
Proposez-vous un affinement paramètre-efficace (LoRA/QLoRA) ?
Oui ! Les méthodes PEFT gèlent la plupart des paramètres et n’ajustent que de petits adaptateurs, ce qui réduit les besoins en calcul tout en offrant de bons résultats.
Comment gérez-vous la confidentialité des données ?
Vos données restent confidentielles. Je signerai un NDA si nécessaire et n’utiliserai vos jeux de données que pour l’entraînement et l’évaluation.
Qui possède le modèle affiné ?
Vous conservez tous les droits sur les poids affiné, les adaptateurs et les modèles quantifiés. Je ne revend ni ne réutilise votre modèle personnalisé.
