Mitä on Fine-tuning?
Fine-tuning on prosessi, jossa esikoulutettu tekoälymalli koulutetaan uudelleen pienemmällä, erikoistuneella tietoaineistolla. Tavoitteena on mukauttaa foundation-malli tiettyyn toimialaan (esim. oikeustiede, lääketiede, rahoitus) tai tehtävään (esim. luokittelu, tietojen poiminta, raporttien generointi).
Fine-tuning-tekniikat
Täysi fine-tuning — kaikkien malliparametrien uudelleenkoulutus (kallista, vaatii GPU:n). LoRA/QLoRA — low-rank-mukauttaminen, pienen parametrialajoukon kouluttaminen (10–100x halvempaa). Instruction tuning — koulutus ohje-vastaus-pareilla. RLHF — oppiminen ihmispalautteesta.
Milloin fine-tuning, milloin RAG?
Fine-tuning: kun haluat muuttaa mallin tyyliä, muotoa tai erikoistumista. RAG: kun tarvitset ajantasaista dataa (muuttuvat dokumentit). Yrityksissä molempia yleensä yhdistetään: fine-tunattu malli + RAG yrityksen tietokannasta.