Que son os Small Language Models?
Os SLM son modelos de IA con menos parámetros (1-7 mil millóns) en comparación cos LLM (70-400+ mil millóns). Exemplos: Phi-4, Gemma 3, Llama 3.2. A pesar do seu menor tamaño, despois do fine-tuning acadan calidade competitiva en especializacións estreitas.
SLM vs LLM — cando usar cal?
SLM: tarefas repetitivas, clasificación, extracción de datos, RAG, triaxe de consultas. LLM: razoamento complexo, xeración de textos longos, tarefas que requiren amplo coñecemento xeral. No encamiñamento multinivel, os SLM xestionan o 60-80% das consultas mentres que os LLM encárganse do resto.
Vantaxes empresariais
Os SLM execútanse en servidores da empresa sen enviar datos á nube (privacidade + RXPD). A latencia é de milisegundos en lugar de segundos. O custo por consulta é case cero. Ideais para sectores con requisitos estritos de datos: finanzas, sanidade, sector público.