Zer dira tenperatura eta Top-P?
Tenperatura eta Top-P laginaketa parametroak dira, hizkuntza modelo handien portaera kontrolatzen dituztenak testuak sortzen direnean. Eragina dute hurrengo tokenaren aukeraketan, aleatorioa edo determinista den, sormena eta zehaztasuna orekatzen uzten dituzte.
Tenperatura azaldua
Tenperaturak hurrengo tokenen log-probabilitateak eskalatzen ditu. Tenperatura 0rekin, modeloa beti aukeratzen du probabilitate handiena duen tokena (determinista). Tenperatura 1.0rekin, jatorrizko banaketa erabiltzen da. Balio altuagoekin (1.5–2.0), probabilitate txikiagoko tokenak probabilitate handiagoa dute, irteera sormenatsuagoak baina akatsak ere ohikoagoak dira. Top-P (nukleoa laginaketa) tokenen aukeraketa mugatzen du P baino handiagoa den probabilitate akumulatua duten token multzo txikienera.
Praktika gomendioak
Kodea sortzeko eta fakta zehatzak lortzeko: tenperatura baxua (0–0.2). Idazketa sormenagarriak: tenperatura altuagoa (0.7–1.0). Irteera egituratuak (JSON): tenperatura 0. Ekoizpen sistematan, parametro hauek sistematikoki optimizatu behar dira A/B saiakuntzen bidez, kalitatean eta koherentzian eragin handia dutelako.