RAG (génération augmentée par récupération)
Le RAG va chercher dans vos documents les passages utiles à la question et les place dans le prompt : le modèle répond à partir de sources à jour, peut les citer, et sans réentraînement.
- rag
- retrieval
- récupération
- index
- découpage
- chunk
- citation
- sources
Syntaxe
Préparation : documents → découpage en passages → embeddings → index (avec source, page, date)À chaque question : question → récupération des k passages les plus proches → (reclassement) → prompt = consignes + passages numérotés + question → réponse avec citations [n], ou « l'information n'est pas dans les sources »Exemple
Assistant interne sur le règlement de la mutuelle (120 pages).Question : « Les lunettes de mon fils de 10 ans sont-elles remboursées ? »Passages récupérés : [3] « Optique enfant (moins de 16 ans) : un équipement par an. » [7] « Optique adulte : un équipement tous les deux ans. »Consigne : « Réponds uniquement à partir des extraits, cite [n], sinon dis que l'information manque. »Résultat attendu : « Oui, un équipement par an pour les moins de 16 ans [3]. »et non la règle des adultes [7] ni une règle inventée.À retenir
- La plupart des échecs viennent de la récupération, pas du modèle : avant de changer de LLM, vérifiez si les bons passages figurent parmi les k résultats.
- Découpez selon la structure du document (titres, articles, paragraphes) avec un léger chevauchement, et gardez en métadonnées la source, la page et la date pour citer et filtrer.
- Prévoyez la mise à jour : un document modifié ou retiré doit l'être aussi dans l'index, sinon l'assistant cite une version périmée.
- Le RAG réduit les hallucinations sans les supprimer : évaluez séparément la récupération (le bon passage est-il trouvé ?) et la fidélité de la réponse aux passages.
- Piège : récupérer beaucoup de passages « pour être sûr ». Le bruit noie l'information utile, augmente le coût et réactive l'effet « perdu au milieu » ; mieux vaut peu de passages bien classés.
Voir aussi
- Embeddings et recherche sémantiqueUn embedding transforme un texte en vecteur de nombres : deux textes de sens proche donnent des vecteurs proches. C'est la base de la recherche sémantique, du regroupement et du RAG.
- HallucinationsUn LLM produit le texte le plus plausible, pas le plus vrai : il peut inventer une fonction, une loi ou une source avec aplomb. On s'en protège en fournissant des sources et en vérifiant.
- Prompt, RAG ou fine-tuning ?Pour adapter un LLM à un métier, on essaie d'abord le prompt, puis le RAG pour apporter des connaissances, et le fine-tuning seulement pour figer un style ou un format à fort volume.
- Évaluer un système LLMOn n'améliore pas ce qu'on ne mesure pas : un jeu de cas de test avec des critères explicites, rejoué à chaque changement de prompt ou de modèle, remplace l'impression que « c'est mieux ».