Kas ir Fine-tuning?
Fine-tuning ir iepriekš apmācīta MI modeļa pārmācīšanas process uz mazākas, specializētas datu kopas. Mērķis ir pamata modeļa pielāgošana konkrētai nozarei (piemēram, tiesības, medicīna, finanses) vai uzdevumam (piemēram, klasifikācija, datu izgūšana, atskaišu ģenerēšana).
Fine-tuninga tehnikas
Pilns fine-tuning — visu modeļa parametru pārmācīšana (dārgi, prasa GPU). LoRA/QLoRA — zemrtas rangas adaptācija, nelielas parametru apakškopas apmācīšana (10–100 reižu lētāk). Instruction tuning — apmācīšana uz instrukcijas-atbildes pāriem. RLHF — mācīšanās no cilvēku atsauksmēm.
Kad fine-tuning, kad RAG?
Fine-tuning: kad vēlaties mainīt modeļa stilu, formātu vai specializāciju. RAG: kad nepieciešami aktuāli dati (mainoši dokumenti). Biznesa vidē parasti tiek kombinētas abas pieejas: precīzi noregulēts modelis + RAG no uzņēmuma zināšanu bāzes.