J’optimiserai et déploierai votre modèle PyTorch avec ONNX et TensorRT
Ingénieur en IA et vision par ordinateur
À propos de ce service
Votre modèle fonctionne, mais il est trop lent ou trop lourd pour la production ? Je le convertirai et l’optimiserai avec ONNX et TensorRT afin qu’il tourne plus rapidement sur les GPUs et les dispositifs en périphérie, tout en veillant à ce que la précision reste à la hauteur.
Je suis ingénieur en vision par ordinateur avec plus de 3 ans d’expérience dans la mise en production de systèmes CV. J’optimise les modèles avec ONNX/TensorRT pour les kiosques et les appareils mobiles et je les sers via FastAPI dans des systèmes déployés dans plus de 60 magasins.
Ce que je peux faire :
- Exporter les modèles PyTorch vers ONNX et vérifier que les sorties correspondent à l’original
- Construire des moteurs TensorRT FP16 et mesurer l’accélération
- Effectuer des benchmarks de latence et de précision avant/après
- Résoudre les problèmes d’export courants (opérations non prises en charge, formes dynamiques)
- Servir le modèle optimisé avec FastAPI + Docker
Ce que vous obtenez :
- Fichiers de modèle optimisés + code d’inférence
- Rapport de benchmarks (latence, précision, matériel utilisé)
- Instructions claires pour l’exécuter sur votre machine
Veuillez me contacter avant de commander en indiquant le type de modèle, la version du framework et le matériel cible (modèle GPU ou dispositif edge), afin que je puisse confirmer l’étendue du travail.
Langage de programmation:
Python
Outils:
opencv
•
tensorflow
•
PyTorch
Frameworks:
PyTorch
