Vad är Small Language Models?
SLM:er är AI-modeller med färre parametrar (1–7 miljarder) jämfört med LLM:er (70–400+ miljarder). Exempel: Phi-4, Gemma 3, Llama 3.2. Trots mindre storlek uppnår de efter fine-tuning konkurrenskraftig kvalitet inom smala specialiseringar.
SLM vs LLM — när ska man använda vilken?
SLM: repetitiva uppgifter, klassificering, dataextraktion, RAG, frågetriage. LLM: komplex resonering, lång textgenerering, uppgifter som kräver bred allmänkunskap. Vid flernivårouting hanterar SLM:er 60–80% av frågorna medan LLM:er tar resten.
Företagsfördelar
SLM:er körs på företagsservrar utan att skicka data till molnet (sekretess + GDPR). Latens är millisekunder istället för sekunder. Kostnad per fråga nära noll. Idealiskt för branscher med strikta datakrav: finans, sjukvård, offentlig sektor.