Hvad er Small Language Models?
SLM'er er AI-modeller med færre parametre (1-7 milliarder) sammenlignet med LLM'er (70-400+ milliarder). Eksempler: Phi-4, Gemma 3, Llama 3.2. Trods mindre størrelse opnår de efter fine-tuning konkurrencedygtig kvalitet i snævre specialiseringer.
SLM vs LLM — hvornår skal man bruge hvilken?
SLM: repetitive opgaver, klassificering, dataudtræk, RAG, forespørgselstriage. LLM: kompleks ræsonnering, lang tekstgenerering, opgaver der kræver bred almen viden. Ved flerniveaurouting håndterer SLM'er 60-80% af forespørgslerne, mens LLM'er tager resten.
Virksomhedsfordele
SLM'er kører på virksomhedsservere uden at sende data til skyen (privatliv + GDPR). Latens er millisekunder i stedet for sekunder. Omkostning per forespørgsel tæt på nul. Ideelt for brancher med strenge datakrav: finans, sundhed, offentlig sektor.