Какво са Small Language Models?
SLM са AI модели с по-малко параметри (1–7 милиарда) в сравнение с LLM (70–400+ милиарда). Примери: Phi-4, Gemma 3, Llama 3.2. Въпреки по-малкия размер, след fine-tuning постигат конкурентно качество в тесни специализации.
SLM vs LLM — кога кой да се използва?
SLM: повтарящи се задачи, класификация, извличане на данни, RAG, триаж на заявки. LLM: сложни разсъждения, генериране на дълги текстове, задачи, изискващи широки общи знания. При многослойно маршрутизиране SLM обработват 60–80% от заявките, а LLM поемат останалите.
Корпоративни предимства
SLM работят на фирмени сървъри, без да изпращат данни в облака (поверителност + GDPR). Латентността е в милисекунди вместо секунди. Цената на заявка е близка до нула. Идеални за индустрии със строги изисквания за данни: финанси, здравеопазване, публичен сектор.