Parcourir les catégories
Explorer
Fiverr Pro
Français
$
USD
Je vais intégrer un LLM dans votre backend Java Spring Boot ou Go existant
Gaurav S
À propos de ce service
Traduction automatique
Vous avez un service Spring Boot ou Go qui génère déjà du trafic, des tests et un processus de déploiement, et maintenant quelqu’un souhaite intégrer l’IA. Tous les freelances en IA que vous avez contactés utilisent uniquement Python et veulent réécrire votre backend ou ajouter un service Python séparé sans plan pour gérer les échecs.
Je suis d’abord ingénieur backend. Spring Boot, Kafka, Kubernetes et Go en production pour une grande banque d’investissement américaine et un fournisseur d’assurance américain — et j’ai déployé des services LLM dans ces mêmes systèmes en direct, dans le cadre de leur processus de gestion des changements et de conformité.
Je peux donc intégrer un modèle dans votre système sans casser ce qui fonctionne déjà.
CE QUE JE FAIS
Décider si le LLM doit fonctionner en processus interne ou comme un service séparé, définir la gestion des échecs lorsque le modèle est lent ou indisponible, ajouter des délais d’attente, des tentatives et des disjoncteurs, et maintenir le tout testable en CI sans appeler une API payante à chaque exécution.
Cette dernière étape est celle que beaucoup oublient, et c’est pourquoi leur fonctionnalité IA ne peut pas être testée.
Découvrez Gaurav S
Gaurav S
Backend AI Systems Engineer
- DeInde
- Membre depuisfévr. 2024
- Temps de réponse moy.2 heures
- Dernière commande2 années
Langues
Anglais, Hindi
Backend engineer with nearly four years of production experience building event-driven systems and shipping LLM-backed services into live products at a US investment bank and a US insurance provider.
I specialize in what most AI work skips: putting a model inside a service that already has traffic, tests and a release process it cannot break. Retrieval quality, evaluation harnesses, defined failure behavior.
Spring Boot, Go, Python, Kafka, Kubernetes, AWS, LangChain, LangGraph, RAG, vector databases, QLoRA.
Available full time.
Traduction automatique
Mon portfolio
Autres services de Développement IA I Offre
FAQ
Traduction automatique
Mon backend n’est pas en Java ou Go.
Contactez-moi. Je peux aussi faire du Python et du Node — j’utilise Java et Go dans le titre parce que c’est la paire que presque personne d’autre ne propose.
Aurez-vous besoin de modifier mon architecture ?
Ce n’est pas mon cas par défaut. Je vous dirai avant de commencer si je pense qu’un changement est nécessaire, et pourquoi.
Comment tester une fonctionnalité LLM ?
Simulé à la frontière pour la CI, avec en plus une petite suite d’évaluation séparée contre le vrai modèle. Les deux sont inclus à partir de la formule Standard. C’est la chose la plus courante que les équipes se trompent.
Pouvez-vous travailler avec notre revue de conformité ou de sécurité ?
Oui. Je déploie des fonctionnalités LLM dans le cadre du processus de revue d’une banque — je suis habitué à rédiger le document, pas seulement le code.
Avez-vous besoin d’un accès en production ?
Non, et je préférerais ne pas l’avoir. Un environnement de développement suffit.
