X'inhuma Small Language Models?
SLMs huma mudelli tal-IA b'inqas parametri (1-7 biljun) meta mqabbla mal-LLMs (70-400+ biljun). Eżempji: Phi-4, Gemma 3, Llama 3.2. Minkejja d-daqs iżgħar, wara fine-tuning jiksbu kwalità kompetittiva f'speċjalizzazzjonijiet dejqa.
SLM vs LLM — meta tuża liema?
SLM: kompiti repetittivi, klassifikazzjoni, estrazzjoni tad-dejta, RAG, trijaġġ tal-mistoqsijiet. LLM: raġunament kumpless, ġenerazzjoni ta' test twil, kompiti li jeħtieġu għarfien ġenerali wiesa'. Fir-routing multi-livell, l-SLMs jimmaniġġjaw 60-80% tal-mistoqsijiet filwaqt li l-LLMs jieħdu l-bqija.
Vantaġġi tal-intrapriżi
SLMs joperaw fuq servers tal-kumpanija mingħajr ma jibagħtu dejta lejn il-cloud (privatezza + GDPR). Il-latenza hija f'millisekondi minflok sekondi. L-ispiża għal-kull mistoqsija kważi żero. Ideali għal-industriji b'rekwiżiti stretti tad-dejta: finanzi, kura tas-saħħa, settur pubbliku.