Je vais construire une pipeline RAG de production avec base de données vectorielle et évaluation

Dites-moi approximativement combien de contenu vous avez et où il se trouve. La formule starter convient à une seule source de moins de 500 pages. La formule production convient à un corpus complet où la précision des réponses est importante. La plateforme convient à plusieurs systèmes en constante évolution.

Selon votre cas : Pinecone, Qdrant, Weaviate, Chroma ou pgvector. Si vous utilisez déjà PostgreSQL, pgvector évite souvent un nouveau service et un coût supplémentaire. Je recommande en fonction de l’échelle et du budget, pas de préférence.

Je ne promets pas un chiffre avant d’avoir vu vos données. Ce que je garantis, c’est la mesure : la formule Standard et Premium inclut une suite d’évaluation pour voir la précision de la récupération, et chaque réponse comporte des citations pour que les erreurs soient traçables.

Vous gérez cela vous-même, avec vos comptes, pour garder le contrôle et la visibilité totale sur les dépenses. Les coûts d’intégration et de requête sont les deux principaux facteurs. J’estime votre coût mensuel réaliste avant de commencer et j’intègre la mise en cache et les limites de tokens pour le réduire.

Tout fonctionne sur votre infrastructure et vos comptes de fournisseur. J’utilise des API qui ne s’entraînent pas sur vos données, et je signerai un NDA. Si vos documents ne peuvent pas quitter vos serveurs, je peux construire une solution entièrement auto-hébergée avec des modèles open source.

Un échantillon de vos documents ou accès à votre base de données, 10 à 20 questions exemples que les utilisateurs poseront, et votre clé API de fournisseur. Les questions exemples sont les plus importantes : elles deviennent l’ensemble d’évaluation contre lequel j’ajuste la récupération.