Čo sú Small Language Models?
SLM sú AI modely s menším počtom parametrov (1–7 miliárd) v porovnaní s LLM (70–400+ miliárd). Príklady: Phi-4, Gemma 3, Llama 3.2. Napriek menšej veľkosti po fine-tuningu dosahujú konkurenčnú kvalitu v úzkych špecializáciách.
SLM vs LLM — kedy použiť ktorý?
SLM: opakujúce sa úlohy, klasifikácia, extrakcia dát, RAG, triedenie dotazov. LLM: zložité uvažovanie, generovanie dlhých textov, úlohy vyžadujúce široké všeobecné znalosti. Vo viacúrovňovom smerovaní SLM spracúvajú 60–80 % dotazov, zatiaľ čo LLM riešia zvyšok.
Podnikové výhody
SLM bežia na firemných serveroch bez odosielania dát do cloudu (súkromie + GDPR). Latencia je v milisekundách namiesto sekúnd. Náklady na dotaz takmer nulové. Ideálne pre odvetvia s prísnymi dátovými požiadavkami: financie, zdravotníctvo, verejný sektor.