Co je fine-tuning?
Fine-tuning je proces přetrénování předtrénovaného AI modelu na menší, specializované datové sadě. Cílem je přizpůsobení základního modelu konkrétní doméně (např. právo, medicína, finance) nebo úloze (např. klasifikace, extrakce dat, generování reportů).
Techniky fine-tuningu
Plný fine-tuning — přetrénování všech parametrů modelu (drahé, vyžaduje GPU). LoRA/QLoRA — nízkorangová adaptace, trénování malé podmnožiny parametrů (10–100× levnější). Instruction tuning — trénování na párech instrukce-odpověď. RLHF — učení z lidské zpětné vazby.
Kdy fine-tuning, kdy RAG?
Fine-tuning: když chcete změnit styl, formát nebo specializaci modelu. RAG: když potřebujete aktuální data (měnící se dokumenty). V podniku se obvykle kombinují oba přístupy: fine-tunovaný model + RAG z firemní znalostní báze.