Що таке малі мовні моделі?
SLM (Small Language Models) - це моделі AI з меншою кількістю параметрів (1-7 млрд) ніж великі мовні моделі (LLM, 70-400+ млрд). Приклади: Phi-4, Gemma 3, Llama 3.2. Незважаючи на менший розмір, після тонкої настройки вони досягають конкуренційної якості в вузьких спеціалізаціях.
SLM vs LLM - коли що використовувати?
SLM: повторювані завдання, класифікація, витяг даних, RAG, триаж запитів. LLM: складне розуміння, генерація довгих текстів, завдання, що вимагають широких загальних знань. У багаторівневому маршрутизації SLM обробляють 60-80% запитів, а LLM займаються рештою.
Переваги для підприємств
SLM працюють на серверах підприємств без відправлення даних до хмари (приватність + GDPR). Затримка становить мілісекунди замість секунд. Вартість за запит близька до нуля. Ідеальні для галузей з суворими вимогами щодо даних: фінанси, медицина, державний сектор.