J'évaluerai et corrigerai les hallucinations et la précision de récupération de votre chatbot rag

M
mahmoudrfaey
M
mahmoudrfaey
Mahmoud Refaey
Certaines informations ont été traduites automatiquement.

À propos de ce service

Traduction automatique

Votre chatbot RAG semblait parfait lors de la démonstration. Puis des utilisateurs réels ont posé des questions réelles, et il donne maintenant des réponses erronées avec une confiance totale.


Généralement, le problème ne vient pas du modèle lui-même. Cela vient de la récupération, du découpage ou d’un texte issu de l’OCR cassé. Je détermine lequel, avec des chiffres plutôt que des suppositions.


C’est le travail que je maîtrise le mieux. Sur un chatbot bancaire analysant des PDFs scannés chez GBG, nous avons mesuré la fidélité à 79 %. Après avoir corrigé l’OCR et ajouté une recherche hybride, un ré-ranking et une réécriture des requêtes, le score est passé à 97 %, et la justesse est passée de 61 % à 85 % (DeepEval, LLM comme juge).


Comment cela fonctionne :

1. Je construis un ensemble de tests à partir de vos documents et des questions réelles des utilisateurs

2. Je mesure la fidélité, la justesse et la qualité de récupération

3. Je relie chaque échec à sa cause : analyse, découpage, recherche, classement ou prompt

4. Vous obtenez un plan de corrections, ou je réalise les corrections et je le réévalue


Vous obtenez un court rapport avec les chiffres avant/après sur le même jeu de tests. Je ne promets pas un chiffre précis, car cela dépend de vos données.


Fonctionne avec LangChain, LlamaIndex ou des pipelines Python simples, dans n’importe quelle langue dans laquelle vos documents sont écrits.


Envoyez-moi quelques exemples de mauvaises réponses. Cela suffit souvent pour que je vous indique où je regarderais en premier.

Découvrez Mahmoud Refaey

Mahmoud Refaey

AI Engineer building RAG systems, LLM agents and Arabic NLP

  • DeÉgypte
  • Membre depuisnov. 2024
  • Langues

    Arabe, Anglais
I build LLM apps that work on real, messy data: RAG chatbots over your documents, LangGraph agents, and Text-to-SQL tools that let your team query a database in plain language. Much of my work is in Arabic. At GBG I helped take an Arabic banking RAG chatbot from 79% to 97% faithfulness, mostly by fixing OCR on scanned PDFs and improving retrieval. Stack: Python, FastAPI, LangGraph, Azure OpenAI, Qdrant, PostgreSQL, Docker, LoRA fine-tuning. Tell me what you're building and I'll tell you how I'd approach it.

Traduction automatique

Mon portfolio