Què són els Small Language Models?
Els SLM són models d'IA amb menys paràmetres (1-7 mil milions) en comparació amb els LLM (70-400+ mil milions). Exemples: Phi-4, Gemma 3, Llama 3.2. Malgrat la seva mida més petita, després del fine-tuning assoleixen qualitat competitiva en especialitzacions estretes.
SLM vs LLM — quan utilitzar quin?
SLM: tasques repetitives, classificació, extracció de dades, RAG, triatge de consultes. LLM: raonament complex, generació de textos llargs, tasques que requereixen ampli coneixement general. En l'encaminament multinivell, els SLM gestionen el 60-80% de les consultes mentre que els LLM s'encarreguen de la resta.
Avantatges empresarials
Els SLM s'executen en servidors de l'empresa sense enviar dades al núvol (privacitat + RGPD). La latència és de mil·lisegons en lloc de segons. El cost per consulta és gairebé zero. Ideals per a sectors amb requisits estrictes de dades: finances, sanitat, sector públic.