Aller au contenu
Fondamentaux des LLM

Température et échantillonnage

Le modèle choisit chaque token par tirage parmi les plus probables. La température et le top-p règlent ce hasard : valeur basse pour extraire ou coder, plus haute pour varier les idées.

  • température
  • temperature
  • top-p
  • échantillonnage
  • déterminisme
  • aléatoire

Syntaxe

Modèle
temperature : proche de 0 → presque toujours le token le plus probable              plus élevée → choix plus variés, réponses moins prévisiblestop_p       : ne garde que les tokens dont la probabilité cumulée atteint p (par exemple 0,9)Règle pratique : régler l'un ou l'autre, pas les deux à la fois

Exemple

Exemple concret
Équipe support, deux usages du même modèle :1. Extraire le numéro de commande et le motif d'un e-mail client → temperature 0   Résultat attendu : {"commande": "C-48213", "motif": "colis endommagé"}, identique ou presque à chaque essai.2. Proposer 5 objets d'e-mail pour une campagne de relance → temperature 0,8   Résultat attendu : 5 formulations différentes à chaque nouvelle requête.

À retenir

  1. La température ne rend pas le modèle plus intelligent : elle change seulement la dispersion de ses choix, pas la qualité de son raisonnement.
  2. Pour comparer deux prompts, gardez la même température et lancez chacun plusieurs fois : un essai unique ne prouve rien sur une sortie aléatoire.
  3. Certains modèles de raisonnement imposent ou ignorent ces réglages : vérifiez la documentation de l'API avant de les modifier.
  4. Piège : penser que la température 0 garantit une sortie identique à chaque appel. Des calculs en parallèle et les mises à jour du modèle introduisent de petites variations ; un test automatisé doit valider le fond (schéma, valeurs), pas la chaîne exacte.

Voir aussi