Top-p / Top-k
Définition
Top-k et top-p sont deux techniques pour contrôler la créativité d'un LLM. Top-k limite les choix aux k mots les plus probables. Top-p sélectionne les mots jusqu'à atteindre une probabilité cumulée p. Elles réduisent les réponses absurdes.
📌 Exemple concret
Avec top-k=5, le modèle choisit entre les 5 mots suivants les plus probables. Avec top-p=0.9, il choisit parmi les mots représentant 90% de la probabilité totale.
💡 Pourquoi ça compte
Comprendre ces paramètres te permet d'ajuster la balance entre cohérence et créativité dans tes prompts sans comprendre la mécanique interne.