Que é o Fine-tuning?
O Fine-tuning é o proceso de readestrar un modelo de IA preadestrado cun conxunto de datos máis pequeno e especializado. O obxectivo é adaptar un modelo fundacional a un dominio específico (p. ex. dereito, medicina, finanzas) ou tarefa (p. ex. clasificación, extracción de datos, xeración de informes).
Técnicas de fine-tuning
Fine-tuning completo — readestramento de todos os parámetros do modelo (caro, require GPU). LoRA/QLoRA — adaptación de baixo rango, adestramento dun pequeno subconxunto de parámetros (10-100x máis económico). Instruction tuning — adestramento con pares instrución-resposta. RLHF — aprendizaxe a partir de retroalimentación humana.
Cando fine-tuning, cando RAG?
Fine-tuning: cando queirades cambiar o estilo, formato ou especialización do modelo. RAG: cando precisades datos actuais (documentos que cambian). Na empresa, habitualmente combínanse: modelo con fine-tuning + RAG da base de coñecemento corporativa.