Embeddings et recherche sémantique
Un embedding transforme un texte en vecteur de nombres : deux textes de sens proche donnent des vecteurs proches. C'est la base de la recherche sémantique, du regroupement et du RAG.
- embedding
- vecteur
- similarité cosinus
- recherche sémantique
- recherche hybride
Syntaxe
vecteur = modele_embedding("texte") # une liste de plusieurs centaines de nombressimilarité cosinus(a, b) = (a · b) / (‖a‖ × ‖b‖) # proche de 1 : sens voisinRecherche : vectoriser la question → comparer aux vecteurs indexés → garder les k plus prochesExemple
FAQ d'un service RH, trois entrées indexées : A « Comment poser un congé payé ? » B « Quelle est la procédure pour une note de frais ? » C « Combien de jours de RTT par an ? »Question d'un salarié : « je voudrais prendre des vacances en août »Similarités cosinus (valeurs illustratives) : A 0,82 · C 0,61 · B 0,18Résultat attendu : A arrive en tête alors qu'aucun mot n'est commun(« vacances » contre « congé ») ; une recherche par mots-clés l'aurait manquée.À retenir
- Indexez et interrogez avec le même modèle d'embedding : des vecteurs issus de deux modèles ne sont pas comparables, et changer de modèle impose de tout réindexer.
- La recherche sémantique rate souvent les identifiants exacts (référence produit, numéro d'article de loi) : combinez-la avec une recherche par mots-clés, ce qu'on appelle une recherche hybride.
- Les scores ne sont pas des probabilités et leur échelle varie d'un modèle à l'autre : fixez un seuil de pertinence à partir de vos propres exemples.
- Piège : vectoriser des documents entiers. Un vecteur unique pour 30 pages fait la moyenne de tous les sujets abordés ; découpez d'abord en passages cohérents.
Voir aussi
- RAG (génération augmentée par récupération)Le RAG va chercher dans vos documents les passages utiles à la question et les place dans le prompt : le modèle répond à partir de sources à jour, peut les citer, et sans réentraînement.
- Prompt, RAG ou fine-tuning ?Pour adapter un LLM à un métier, on essaie d'abord le prompt, puis le RAG pour apporter des connaissances, et le fine-tuning seulement pour figer un style ou un format à fort volume.
- Tokens et fenêtre de contexteUn LLM ne lit pas des mots mais des tokens, des fragments de texte. Tout ce qu'il voit tient dans une fenêtre de contexte limitée, et chaque token envoyé ou produit coûte du temps et de l'argent.