Ce sunt Small Language Models?
SLM-urile sunt modele AI cu mai puțini parametri (1–7 miliarde) comparativ cu LLM-urile (70–400+ miliarde). Exemple: Phi-4, Gemma 3, Llama 3.2. În ciuda dimensiunilor mai mici, după fine-tuning ating calitate competitivă în specializări înguste.
SLM vs LLM — când se folosește care?
SLM: sarcini repetitive, clasificare, extracție de date, RAG, triaj de interogări. LLM: raționament complex, generare de texte lungi, sarcini care necesită cunoștințe generale vaste. În rutarea multi-nivel, SLM-urile procesează 60–80% din interogări, iar LLM-urile le preiau pe celelalte.
Avantaje enterprise
SLM-urile rulează pe serverele companiei fără a trimite date în cloud (confidențialitate + GDPR). Latența este de milisecunde în loc de secunde. Costul per interogare aproape de zero. Ideal pentru industriile cu cerințe stricte privind datele: finanțe, sănătate, sector public.