¿Qué son los Small Language Models?
Los SLM son modelos de IA con menos parámetros (1 a 7 mil millones) en comparación con los LLM (70 a 400+ mil millones). Ejemplos: Phi-4, Gemma 3, Llama 3.2. A pesar de su menor tamaño, tras el fine-tuning alcanzan una calidad competitiva en especializaciones concretas.
SLM vs LLM — ¿cuándo usar cuál?
SLM: tareas repetitivas, clasificación, extracción de datos, RAG, triaje de consultas. LLM: razonamiento complejo, generación de textos largos, tareas que requieren amplio conocimiento general. En el enrutamiento multinivel, los SLM procesan entre el 60 y el 80 % de las consultas mientras los LLM se encargan del resto.
Ventajas para la empresa
Los SLM funcionan en servidores corporativos sin enviar datos a la nube (privacidad + RGPD). La latencia es de milisegundos en lugar de segundos. El coste por consulta se acerca a cero. Ideal para sectores con requisitos estrictos de datos: finanzas, sanidad, sector público.