Notre agence déploiera une IA auto-hébergée avec open webui et rag

Vous avez besoin d’un assistant IA qui fonctionne sur votre propre infrastructure, avec vos propres documents ?

WZ-IT déploie des stacks LLM et RAG auto-hébergés pour les entreprises qui ne peuvent pas envoyer leurs données internes à une API américaine. Open WebUI comme interface, LiteLLM comme passerelle, Qdrant ou pgvector pour la recherche, Langfuse pour le traçage et le contrôle des coûts.

Selon la portée, nous couvrons :

- Open WebUI avec SSO, groupes d’utilisateurs et accès aux modèles par équipe

- Passerelle LiteLLM : une API pour modèles locaux et externes, budgets par équipe

- inférence vLLM ou Ollama, adaptée à votre budget GPU ou CPU

- pipeline RAG : ingestion, découpage, embeddings, Qdrant ou pgvector

- recherche avec permissions pour que les utilisateurs ne voient que les documents qu’ils sont autorisés à voir

- Langfuse pour le traçage, l’évaluation et le suivi des coûts par équipe

- déploiement sur votre serveur GPU, cloud européen ou sur site

La partie difficile n’est pas la fenêtre de chat. C’est faire en sorte que la recherche respecte déjà vos permissions, et connaître le coût réel mensuel.

Commencez par une consultation : une heure avec les deux fondateurs de WZ-IT, accompagnée d’une recommandation écrite que vous gardez dans tous les cas. Tout projet plus important est proposé sous forme d’offre personnalisée, adaptée à vos besoins réels.

Plus de nos réalisations : wz-it.com