Je vais ajouter des fonctionnalités LLM à votre backend Python avec rag cité et contrôle des coûts

Vous souhaitez une fonctionnalité LLM qui fournit des réponses fondées, échoue en toute sécurité et ne vous surprend pas sur la facture. Je l'intègre dans les backends Python existants.

Ce que je construis : récupération (RAG) avec citations, pour que chaque réponse indique sa source ; sorties structurées, validées avec pydantic avant tout enregistrement ou action ; étapes d'agent qui attendent l'approbation d'une personne avant de modifier des données ; routage et mise en cache du modèle pour maîtriser le coût par requête ; et un ensemble d'évaluation, pour que la qualité soit mesurée plutôt qu'estimée à l'œil.

Comment je travaille : je lis votre code avant de le modifier, j'écris d'abord le test qui échoue, et je vous guide pour intégrer la fonctionnalité sur vos propres données avant de vous la remettre. Contexte : Python en production (Django REST, pytest, workers de file d'attente sur AWS) sur une plateforme qui propose déjà des fonctionnalités LLM, après des années de travail à distance pour des équipes en Nouvelle-Zélande, Singapour et Australie.

Ce que vous obtenez : la fonctionnalité dans votre dépôt avec les tests, une courte note de conception et les résultats de l'évaluation.

Contactez-moi d'abord avec votre stack et ce que la fonctionnalité doit faire.