Czym jest fine-tuning?
Fine-tuning (dostrajanie) to proces dotrenowywania wstępnie wytrenowanego modelu AI na mniejszym, specjalistycznym zbiorze danych. Celem jest adaptacja modelu bazowego do konkretnej domeny (np. prawo, medycyna, finanse) lub zadania (np. klasyfikacja, ekstrakcja danych, generowanie raportów).
Techniki fine-tuningu
Full fine-tuning — dotrenowanie wszystkich parametrów modelu (kosztowne, wymaga GPU). LoRA/QLoRA — adaptacja niskorangowa, dotrenowanie małego podzbioru parametrów (10-100x tańsze). Instruction tuning — trenowanie na parach instrukcja-odpowiedź. RLHF — uczenie z ludzkiego feedbacku (model uczy się preferencji).
Kiedy fine-tuning, kiedy RAG?
Fine-tuning: gdy chcesz zmienić styl, format lub specjalizację modelu (np. zawsze odpowiadaj po polsku, w formacie JSON). RAG: gdy potrzebujesz aktualnych danych (dokumenty się zmieniają). W enterprise najczęściej łączy się oba: fine-tuned model + RAG z firmowej bazy wiedzy.