Ce este fine-tuning?
Fine-tuning este procesul de re-antrenare a unui model AI pre-antrenat pe un set de date mai mic și specializat. Scopul este adaptarea unui model de bază la un domeniu specific (de ex. drept, medicină, finanțe) sau sarcină (de ex. clasificare, extracție de date, generare de rapoarte).
Tehnici de fine-tuning
Fine-tuning complet — re-antrenarea tuturor parametrilor modelului (costisitor, necesită GPU). LoRA/QLoRA — adaptare de rang redus, antrenarea unui subset mic de parametri (de 10–100 ori mai ieftin). Instruction tuning — antrenare pe perechi instrucțiune-răspuns. RLHF — învățare din feedback uman.
Când fine-tuning, când RAG?
Fine-tuning: când doriți să schimbați stilul, formatul sau specializarea modelului. RAG: când aveți nevoie de date actuale (documente în schimbare). În practica enterprise, ambele abordări sunt de obicei combinate: model fine-tunat + RAG din baza de cunoștințe a companiei.