Mi a fine-tuning?
A fine-tuning egy előre betanított AI-modell kisebb, specializált adatkészleten történő újratanításának folyamata. A cél egy alapmodell adaptálása egy konkrét szakterületre (pl. jog, orvostudomány, pénzügy) vagy feladatra (pl. osztályozás, adatkinyerés, jelentésgenerálás).
Fine-tuning technikák
Teljes fine-tuning — a modell összes paraméterének újratanítása (drága, GPU-t igényel). LoRA/QLoRA — alacsony rangú adaptáció, a paraméterek kis részhalmazának tanítása (10–100-szor olcsóbb). Instruction tuning — utasítás-válasz párokon való tanítás. RLHF — emberi visszajelzésből való tanulás.
Mikor fine-tuning, mikor RAG?
Fine-tuning: amikor a modell stílusát, formátumát vagy specializációját szeretné megváltoztatni. RAG: amikor aktuális adatokra van szükség (változó dokumentumok). A vállalati gyakorlatban általában mindkét megközelítést kombinálják: fine-tunolt modell + RAG a vállalati tudásbázisból.