Hvad er Fine-tuning?
Fine-tuning er processen med at genoptræne en forhåndstrænet AI-model på et mindre, specialiseret datasæt. Målet er at tilpasse en foundation model til et specifikt domæne (f.eks. jura, medicin, finans) eller opgave (f.eks. klassificering, dataudtræk, rapportgenerering).
Fine-tuning-teknikker
Fuld fine-tuning — genoptræning af alle modelparametre (dyrt, kræver GPU). LoRA/QLoRA — low-rank-tilpasning, træning af en lille parameterundergruppe (10-100x billigere). Instruction tuning — træning på instruktions-svar-par. RLHF — læring fra menneskelig feedback.
Hvornår fine-tuning, hvornår RAG?
Fine-tuning: når du vil ændre modellens stil, format eller specialisering. RAG: når du har brug for aktuel data (skiftende dokumenter). I virksomheder kombineres normalt begge: fine-tunet model + RAG fra virksomhedens vidensbase.