Co jsou Small Language Models?
SLM jsou AI modely s menším počtem parametrů (1–7 miliard) ve srovnání s LLM (70–400+ miliard). Příklady: Phi-4, Gemma 3, Llama 3.2. Přes menší velikost po fine-tuningu dosahují konkurenční kvality v úzkých specializacích.
SLM vs LLM — kdy použít který?
SLM: opakující se úlohy, klasifikace, extrakce dat, RAG, třídění dotazů. LLM: složité uvažování, generování dlouhých textů, úlohy vyžadující široké obecné znalosti. Ve víceúrovňovém směrování SLM zpracovávají 60–80 % dotazů, zatímco LLM řeší zbytek.
Podnikové výhody
SLM běží na firemních serverech bez odesílání dat do cloudu (soukromí + GDPR). Latence je v milisekundách místo sekund. Náklady na dotaz téměř nulové. Ideální pro odvětví s přísnými datovými požadavky: finance, zdravotnictví, veřejný sektor.