Kas ir Temperature un Top-P?
Temperature un Top-P ir divi galvenie parametri, kas kontrolē, cik nejauša un radoša ir MI modeļa teksta ģenerēšana. Tie ietekmē, kā modelis izvēlas nākamo vārdu no iespējamo vārdu sadalījuma — līdzsvarojot starp prognozējamību un daudzveidību.
Temperature kontrolē izvades sadalījuma asumu: zema temperature (piemēram, 0.1-0.3) padara modeli deterministiskāku, vienmēr izvēloties visvarbūtīgākos vārdus; augsta temperature (piemēram, 0.8-1.2) padara izvadi daudzveidīgāku un radošāku, bet potenciāli mazāk saskaņotu. Top-P (kodola izlase) ierobežo izvēli uz mazāko vārdu kopu, kuras kumulatīvā varbūtība sasniedz noteiktu slieksni — piemēram, Top-P 0.9 nozīmē, ka modelis izvēlas tikai no vārdiem, kas kopā veido 90% varbūtības.
Praktiski ieteikumi
Dažādiem uzdevumiem ir nepieciešami dažādi iestatījumi: faktisku atbilžu ģenerēšanai (zema temperature, zems Top-P), radošai rakstīšanai (augsta temperature, augsts Top-P), koda ģenerēšanai (zema temperature) un prāta vētrai (augsta temperature). Organizācijām jāeksperimentē un jānosaka optimālie iestatījumi katram lietojumam.