Što je Fine-tuning?
Fine-tuning je proces ponovnog treniranja prethodno treniranog AI modela na manjem, specijaliziranom skupu podataka. Cilj je prilagodba temeljnog modela specifičnoj domeni (npr. pravo, medicina, financije) ili zadatku (npr. klasifikacija, ekstrakcija podataka, generiranje izvješća).
Tehnike fine-tuninga
Potpuni fine-tuning — ponovno treniranje svih parametara modela (skupo, zahtijeva GPU). LoRA/QLoRA — adaptacija niskog ranga, treniranje malog podskupa parametara (10-100x jeftinije). Instruction tuning — treniranje na parovima uputa-odgovor. RLHF — učenje iz povratnih informacija ljudi.
Kada fine-tuning, a kada RAG?
Fine-tuning: kada želite promijeniti stil, format ili specijalizaciju modela. RAG: kada trebate aktualne podatke (dokumenti koji se mijenjaju). U poslovnom okruženju, oba se obično kombiniraju: fino podešen model + RAG iz baze znanja tvrtke.