Definitie
A parameter that changes token-selection probabilities during sampling. Lower values concentrate probability on more likely tokens; higher values spread it more widely. Some runtimes use a zero setting for greedy decoding, but temperature alone does not guarantee reproducible output across runtimes, hardware or model versions. Supported settings depend on the implementation.
Hulp Nodig bij het Begrijpen van AI?
Boek een Physical AI-kennismaking om te bespreken hoe deze AI-concepten op uw branche en uitdagingen van toepassing zijn.