Vad är Fine-tuning?
Fine-tuning är processen att omträna en förtränad AI-modell på en mindre, specialiserad datamängd. Målet är att anpassa en foundation model till en specifik domän (t.ex. juridik, medicin, finans) eller uppgift (t.ex. klassificering, dataextraktion, rapportgenerering).
Fine-tuning-tekniker
Full fine-tuning — omträning av alla modellparametrar (dyrt, kräver GPU). LoRA/QLoRA — low-rank-anpassning, träning av en liten parameterundergrupp (10–100x billigare). Instruction tuning — träning på instruktions-svarspar. RLHF — inlärning från mänsklig feedback.
När fine-tuning, när RAG?
Fine-tuning: när du vill ändra modellens stil, format eller specialisering. RAG: när du behöver aktuell data (föränderliga dokument). I företag kombineras vanligtvis båda: fine-tunad modell + RAG från företagets kunskapsbas.