Mis on Small Language Models?
SLM-id on tehisintellekti mudelid vähemate parameetritega (1–7 miljardit) võrreldes LLM-idega (70–400+ miljardit). Näited: Phi-4, Gemma 3, Llama 3.2. Vaatamata väiksemale suurusele saavutavad nad pärast fine-tuningut konkurentsivõimelise kvaliteedi kitsastes spetsialisatsioonides.
SLM vs LLM — millal millist kasutada?
SLM: korduvad ülesanded, klassifitseerimine, andmete ekstraheerimine, RAG, päringute triaaž. LLM: keeruline arutlemine, pikkade tekstide genereerimine, laialdast üldteadmist nõudvad ülesanded. Mitmeastmelises suunamises käsitlevad SLM-id 60–80% päringutest, samal ajal kui LLM-id võtavad ülejäänu.
Ärieelised
SLM-id töötavad ettevõtte serverites ilma andmeid pilve saatmata (privaatsus + GDPR). Latentsus on millisekundites, mitte sekundites. Kulu päringu kohta on nullilähedane. Ideaalne rangete andmenõuetega tööstusharude jaoks: finants, tervishoid, avalik sektor.