Temperatuuri mõistmine
Temperatuur kontrollib LLM väljundi juhuslikust. Madal temperatuur (0-0,3) valib tõenäolisemaid tokeneid, tootes deterministlikumaid, fokuseeritud väljundeid. Keskmine temperatuur (0,5-0,7) tasakaalustab tähenduslikke ja mitmekesiseid väljundeid. Kõrge temperatuur (0,8-1+) viib ettearvamatu, loovate, kuid võib-olla järjepidevate väljunditeni.
Top-p (tuumiku proovivõtmine) mõistmine
Top-p (ka tuumiku proovivõtmine) on alternatiivne meetod LLM juhuslikuse kontrollimiseks. Selle asemel et kogu jaotust temperatuuri järgi skaleerida, hõlmab top-p kumulatiivset P(%) tõenäolisematest tokeneitest. Madal top-p väärtus — kitsam, fokuseeritum proovivõtmine, kõrge top-p — mitmekesisem proovivõtmine.
Ettevõtte soovitused
Faktiliste andmete otsimise ja analüüsi ülesannete jaoks kasutage madalaid temperatuure (0-0,3). Sisu genereerimiseks ja ajurünnakuks kasutage keskmist temperatuuri (0,6-0,8). Vältige "hallutsinatsiooni" riski kõrgetel temperatuuridel ülesannetel, kus faktiline täpsus on vajalik.