Cos'è il fine-tuning?
Il fine-tuning è il processo di ri-addestramento di un modello IA pre-addestrato su un dataset più piccolo e specializzato. L'obiettivo è adattare un modello fondazionale a un dominio specifico (ad es. diritto, medicina, finanza) o compito (ad es. classificazione, estrazione dati, generazione di report).
Tecniche di fine-tuning
Fine-tuning completo — ri-addestramento di tutti i parametri del modello (costoso, richiede GPU). LoRA/QLoRA — adattamento a basso rango, addestramento di un piccolo sottoinsieme di parametri (10–100x più economico). Instruction tuning — addestramento su coppie istruzione-risposta. RLHF — apprendimento da feedback umano.
Quando fine-tuning, quando RAG?
Fine-tuning: quando si vuole modificare lo stile, il formato o la specializzazione del modello. RAG: quando servono dati aggiornati (documenti che cambiano). In azienda, entrambi gli approcci vengono solitamente combinati: modello fine-tuned + RAG dalla base di conoscenza aziendale.