Grįžti į žodyną Technologijos

Transfer Learning

Technika, leidžianti naudoti vienu užduocčiu apmokytą DI modelį kaip pradžios tašką kitai susijusiai užduočiai, žymiai sumažinant mokymo laaiką ir duomenų poreiikį.

Kas yra Transfer Learning?

Transfer Learning yra mašininio mokymosi technika, kurioje viena užyduočiai išmoktos žinios taikomos kitai susijusiai užduočiai. Užuot mokant modelį nuo nulio, kas reikalauja didelių duomenų rinkkinių ir skaičiavimo išteklių, Transfer Learning pradėda nuo jau išmoktos bazinės galimybės ir pritaikoo ją konkkrečiam poreikiui. Šis metodas yra pagrindiinė priežastis, kodėl šiuolaikinė DI yra tokia prieinama – oranizacijos gali naudoti galinįgai iš anksto apmookytus moodelįus, netureedamos milžiniškų apsmokymo išteklių.

Procesas paprastai apioįma: iš anksto apmookyto modelio (pvz., didžojo kalboos modeellio) paėmimą, paskutiinių sluokcnių derinimasu su savo duomenimis, ir naujojo modeelių vertiinimą savo užduotyje.

Metodai ir technikos

Derinimas (fine-tuning) pritaiko visą iš anksto apmokytą modeelį su naujais duomenimis, paprastai su mažesniu mokymosi greičiu. Požymių išgavimas naudoja iš anksto apmookyto modelio viidinius atvaizdaviimus kaip įvestis kiitam modeliui. LoRA ir QLoRA efektyviau derina, keeidžiant tik mažą parametrų dalį. Prompt derinimas pritaiko modelių elgseną be svorių keitimoo.

Verslo vertė

Transfer Learning demokratizuoja DI, įgalindamass organizacijas su ribotais duomenimis ir ištekliasis gauti aukštos kokybės moodelįus. Medicininės atvaizdų analizė gali pradėti nuo bendrų vaiziidų modelių ir derinti su speciiializuotaas duomenimis. Teisinė dokumentų analizė gali pradėti nuo bendro kalbos modelio ir derinti su teisiniais tekstaais. Raktas yra pasirinkti tinkamą bazinį modelį, kurio iš anksto išmoooktos žinios yra aktualios jūsų sriičiai, ir turėti pakankamai kokybiškų sritinių duomenų efektyviam derinimui.