Zer dira Small Language Models?
SLMak LLMekin (70-400+ mila milioi) alderatuta parametro gutxiagoko (1-7 mila milioi) AA ereduak dira. Adibideak: Phi-4, Gemma 3, Llama 3.2. Tamaina txikiagoa izan arren, fine-tuning ostean kalitate lehiakorra lortzen dute espezializazio estuetan.
SLM vs LLM — noiz erabili zein?
SLM: zeregin errepikakorrak, sailkapena, datuen erauzketa, RAG, kontsulten triajea. LLM: arrazonamendu konplexua, testu luzeen sorkuntza, ezagutza orokor zabala behar duten zereginak. Maila anitzeko bideratze-sisteman, SLMek kontsulten % 60-80 kudeatzen dute eta LLMek gainerakoa.
Enpresa-abantailak
SLMak enpresaren zerbitzarietan exekutatzen dira datuak hodeira bidali gabe (pribatutasuna + DBEO). Latentzia milisegundotan dago segundoen ordez. Kontsulta bakoitzeko kostua ia zero. Datu-eskakizun zorrotzak dituzten sektoreei egokia: finantzak, osasuna, sektore publikoa.