¿Qué es el fine-tuning?
El fine-tuning es el proceso de reentrenar un modelo de IA preentrenado en un conjunto de datos más pequeño y especializado. El objetivo es adaptar un modelo fundacional a un dominio específico (por ej. derecho, medicina, finanzas) o tarea (por ej. clasificación, extracción de datos, generación de informes).
Técnicas de fine-tuning
Fine-tuning completo — reentrenamiento de todos los parámetros del modelo (costoso, requiere GPU). LoRA/QLoRA — adaptación de bajo rango, entrenamiento de un pequeño subconjunto de parámetros (10–100x más barato). Instruction tuning — entrenamiento con pares de instrucción-respuesta. RLHF — aprendizaje por retroalimentación humana.
¿Cuándo fine-tuning, cuándo RAG?
Fine-tuning: cuando quiera cambiar el estilo, formato o especialización del modelo. RAG: cuando necesite datos actuales (documentos cambiantes). En la empresa, ambos enfoques suelen combinarse: modelo ajustado + RAG desde la base de conocimiento corporativa.