Prompt, RAG ou fine-tuning ?
Pour adapter un LLM à un métier, on essaie d'abord le prompt, puis le RAG pour apporter des connaissances, et le fine-tuning seulement pour figer un style ou un format à fort volume.
- fine-tuning
- rag
- prompt
- adaptation
- entraînement
- choix
Syntaxe
Besoin → LevierConsignes, ton, format simple → prompt (avec un ou deux exemples)Connaissances propres, mises à jour, à citer → RAGStyle ou format très stable, tâche étroite à fort volume → fine-tuning, après prompt et évaluationExemple
Cabinet comptable, trois besoins :1. Vouvoyer le client et signer avec la formule du cabinet → prompt système2. Répondre sur la doctrine fiscale interne, mise à jour chaque mois → RAG3. Classer 50 000 justificatifs par mois dans 40 catégories maison → fine-tuning d'un petit modèle, une fois qu'un jeu de test montre que le prompt plafonneRésultat attendu : aucun fine-tuning pour les besoins 1 et 2.À retenir
- Le fine-tuning est un mauvais moyen d'ajouter des faits : le modèle les retient mal, ne peut pas les citer, et il faut réentraîner à chaque mise à jour.
- Un fine-tuning exige un jeu d'exemples propre et représentatif, plus un jeu de test séparé pour prouver le gain.
- Les leviers se combinent : un modèle affiné pour le format peut très bien interroger un index RAG.
- Piège : lancer un fine-tuning parce que le prompt « ne marche pas », sans avoir mesuré. Un brief mieux structuré ou deux exemples bien choisis règlent souvent le problème pour une fraction de l'effort.
Voir aussi
- RAG (génération augmentée par récupération)Le RAG va chercher dans vos documents les passages utiles à la question et les place dans le prompt : le modèle répond à partir de sources à jour, peut les citer, et sans réentraînement.
- Structure ROCCF du briefUn bon prompt est un brief en cinq rubriques : Rôle, Objectif, Contexte, Contraintes et Format. Cette grille ROCCF évite la réponse générique et rend le prompt réutilisable par l'équipe.
- Évaluer un système LLMOn n'améliore pas ce qu'on ne mesure pas : un jeu de cas de test avec des critères explicites, rejoué à chaque changement de prompt ou de modèle, remplace l'impression que « c'est mieux ».
- Embeddings et recherche sémantiqueUn embedding transforme un texte en vecteur de nombres : deux textes de sens proche donnent des vecteurs proches. C'est la base de la recherche sémantique, du regroupement et du RAG.