Je mettrai en place l’inférence pour vos modèles open source

R
rickymuchiri
R
rickymuchiri
Erick
5,0
5,0
Certaines informations ont été traduites automatiquement.

À propos de ce service

Traduction automatique

Je mettrai en place l’inférence pour vos modèles open source en utilisant des moteurs tels que TensorRT-LLM, vLLM et sGLang. Pour des flux de travail à faible latence, je vous aiderai à atteindre une latence faible par des méthodes telles que la quantification, la compilation du modèle, le batching et le streaming. Je mettrai également en place des mesures de sécurité pour vos points d’accès d’inférence avec des clés API et le support RAG afin d’attacher des documents à vos prompts. Ce service est inclusif pour les environnements sur site et dans le cloud, aussi bien sur CPU que sur GPU.

Découvrez Erick

Erick

Selfhosted solutions

4,9(10)
  • DeKenya
  • Membre depuissept. 2022
  • Temps de réponse moy.19 heures
  • Dernière commande3 mois
  • Langues

    Anglais, Swahili
I'm Erick, a Software Engineer and System Administrator specializing in self-hosted solutions. I deploy and manage secure server environments to help businesses operate independently from third-party SaaS platforms. My expertise includes Linux server administration, Docker containerization, virtualization with Proxmox, and VPN configuration using Tailscale, Wireguard and OpenVPN. I set up, troubleshoot, and optimize self-hosted services, ensuring efficient and reliable infrastructures tailored to your needs. I also provide Twilio services to help businesses efficiently reach out to customers.

Traduction automatique

Avis

1 avis concernant ce service
5,0

(1)
(0)
(0)
(0)
(0)
Détails de la notation
  • Niveau de communication avec le freelance
    5
  • Qualité de la livraison
    5
  • Valeur de la livraison
    5
Trier par
Les plus pertinents
  • B

    benrudidi82

    CM

    Cameroun

    Collaboration en cours
    5

    for me it is difficult to find people like that I feel very confident working with him, he is very professional, he understands very quickly, he complies with all my requirements, he does things in a professional manner, despite the fact that I do not speak English, he adapts to the French, to the point...

    50 $US-100 $US

    Prix

    4 jours

    Durée

    Utile?
    Oui
    Non
Avis

1 avis concernant ce service
5,0

(1)
(0)
(0)
(0)
(0)
Détails de la notation
  • Niveau de communication avec le freelance
    5
  • Qualité de la livraison
    5
  • Valeur de la livraison
    5
Trier par
Les plus pertinents
  • B

    benrudidi82

    CM

    Cameroun

    Collaboration en cours
    5

    for me it is difficult to find people like that I feel very confident working with him, he is very professional, he understands very quickly, he complies with all my requirements, he does things in a professional manner, despite the fact that I do not speak English, he adapts to the French, to the point...

    50 $US-100 $US

    Prix

    4 jours

    Durée

    Utile?
    Oui
    Non

Balises associées