Takaisin sanastoon Teknologia

SLM (Small Language Models)

Kompakteja tekoälymalleja (1–7B parametria), jotka toimivat paikallisesti, nopeasti ja edullisesti — ihanteellisia erikoistehtäviin ilman pilvikustannuksia.

Mitä ovat Small Language Models?

SLM:t ovat tekoälymalleja, joissa on vähemmän parametreja (1–7 miljardia) verrattuna LLM:iin (70–400+ miljardia). Esimerkkejä: Phi-4, Gemma 3, Llama 3.2. Pienemmästä koostaan huolimatta ne saavuttavat fine-tuningin jälkeen kilpailukykyisen laadun kapeissa erikoistumisissa.

SLM vs LLM — milloin käyttää kumpaa?

SLM: toistuvat tehtävät, luokittelu, tietojen poiminta, RAG, kyselyjen esikäsittely. LLM: monimutkainen päättely, pitkien tekstien generointi, laajaa yleistietoa vaativat tehtävät. Monitasoreitityksessä SLM:t hoitavat 60–80 % kyselyistä, kun taas LLM:t hoitavat loput.

Yritysedut

SLM:t toimivat yrityksen palvelimilla ilman datan lähettämistä pilveen (yksityisyys + GDPR). Viive on millisekunteja sekuntien sijaan. Kustannus per kysely lähes nolla. Ihanteellinen aloille, joilla on tiukat datavaatimukset: rahoitus, terveydenhuolto, julkinen sektori.