Was sind Small Language Models?
SLMs sind KI-Modelle mit weniger Parametern (1–7 Milliarden) im Vergleich zu LLMs (70–400+ Milliarden). Beispiele: Phi-4, Gemma 3, Llama 3.2. Trotz geringerer Größe erreichen sie nach Fine-tuning wettbewerbsfähige Qualität in engen Spezialisierungen.
SLM vs. LLM — wann welches verwenden?
SLM: repetitive Aufgaben, Klassifizierung, Datenextraktion, RAG, Query-Triage. LLM: komplexes Reasoning, lange Textgenerierung, Aufgaben mit breitem Allgemeinwissen. Im mehrstufigen Routing bearbeiten SLMs 60–80 % der Anfragen, während LLMs den Rest übernehmen.
Vorteile für Unternehmen
SLMs laufen auf Unternehmensservern, ohne Daten in die Cloud zu senden (Datenschutz + DSGVO). Die Latenz liegt im Millisekundenbereich statt Sekunden. Kosten pro Anfrage nahe null. Ideal für Branchen mit strengen Datenanforderungen: Finanzwesen, Gesundheitswesen, öffentlicher Sektor.