Mis on Fine-tuning?
Fine-tuning on eeltreenitud tehisintellekti mudeli ümberõpetamine väiksemal, spetsialiseeritud andmekogumil. Eesmärk on alusmudeli kohandamine konkreetsele valdkonnale (nt õigus, meditsiin, rahandus) või ülesandele (nt klassifitseerimine, andmete ekstraheerimine, aruannete genereerimine).
Fine-tuningu tehnikad
Täielik fine-tuning — kõikide mudeli parameetrite ümberõpetamine (kallis, nõuab GPU-d). LoRA/QLoRA — madalrankne kohandamine, väikese parameetrite alamhulga treenimine (10–100 korda odavam). Instruction tuning — juhise-vastuse paaridel treenimine. RLHF — inimeste tagasisidest õppimine.
Millal fine-tuning, millal RAG?
Fine-tuning: kui soovite muuta mudeli stiili, formaati või spetsialiseerumist. RAG: kui vajate ajakohaseid andmeid (muutuvad dokumendid). Ärikeskkonnas kombineeritakse tavaliselt mõlemat: peenhäälestatud mudel + RAG ettevõtte teadmusbaasist.