Что такое малые языковые модели?
SLM (Small Language Models) — это модели AI с меньшим числом параметров (1-7 млрд), чем крупные языковые модели (LLM, 70-400+ млрд). Примеры: Phi-4, Gemma 3, Llama 3.2. Несмотря на меньший размер, после fine-tuning они достигают конкурентоспособного качества в узких специализациях.
SLM vs LLM — когда что применять?
SLM: повторяющиеся задачи, классификация, извлечение данных, RAG, триаж запросов. LLM: сложное рассуждение, генерация длинных текстов, задачи, требующие широких общих знаний. При многоуровневой маршрутизации SLM обрабатывают 60-80% запросов, а LLM занимаются остальным.
Преимущества для enterprise
SLM работают на корпоративных серверах без отправки данных в облако (конфиденциальность + GDPR). Задержка измеряется миллисекундами, а не секундами. Стоимость на запрос близка к нулю. Идеальны для отраслей со строгими требованиями к данным: финансы, медицина, государственный сектор.