Hallucinations
Un LLM produit le texte le plus plausible, pas le plus vrai : il peut inventer une fonction, une loi ou une source avec aplomb. On s'en protège en fournissant des sources et en vérifiant.
- hallucination
- invention
- fiabilité
- source
- vérification
- plausible
Syntaxe
Causes : connaissance absente ou datée · question ambiguë · pression à répondre · contexte trop longSignes : référence précise introuvable · fonction absente de la documentation · chiffre rond sans sourceParades : fournir les sources · autoriser « je ne sais pas » · exiger la citation de l'extrait · testerExemple
Question : « Quelle méthode pandas calcule la médiane glissante sur 7 jours ? »Réponse hallucinée : df["ventes"].rolling_median(7) ← cette méthode n'existe pasVérification : la documentation pandas ne la connaît pas, l'exécution lève AttributeError.Réponse correcte : df["ventes"].rolling(7).median()Résultat attendu : une série dont les 6 premières valeurs sont NaN,puis la médiane des 7 derniers jours pour chaque date.À retenir
- Donnez explicitement au modèle le droit de répondre « je ne sais pas » ou « l'information n'est pas dans le document » : sans cette porte de sortie, il comble le vide.
- Demandez de citer le passage exact du document fourni qui justifie chaque affirmation ; une citation introuvable signale une invention.
- Les sujets récents, de niche ou très chiffrés sont les plus exposés : un modèle a toujours une date limite de connaissances, même quand l'outil fait des recherches sur le web.
- Piège : prendre l'assurance du ton pour un gage de fiabilité. Une réponse inventée est aussi fluide qu'une réponse juste ; seule une vérification externe (exécution, documentation, source primaire) tranche.
Voir aussi
- RAG (génération augmentée par récupération)Le RAG va chercher dans vos documents les passages utiles à la question et les place dans le prompt : le modèle répond à partir de sources à jour, peut les citer, et sans réentraînement.
- Vérifier une sortie d'IAToute sortie d'IA reste une hypothèse tant qu'elle n'est pas testée. On explicite ses hypothèses, on la confronte à un cas dont on connaît la réponse, puis on relit ce qu'on va signer.
- Évaluer un système LLMOn n'améliore pas ce qu'on ne mesure pas : un jeu de cas de test avec des critères explicites, rejoué à chaque changement de prompt ou de modèle, remplace l'impression que « c'est mieux ».
- Tokens et fenêtre de contexteUn LLM ne lit pas des mots mais des tokens, des fragments de texte. Tout ce qu'il voit tient dans une fenêtre de contexte limitée, et chaque token envoyé ou produit coûte du temps et de l'argent.