Nazaj na slovar Umetna inteligenca

Porajajoče zmožnosti UI

Nepričakovane zmožnosti, ki se pojavljajo v velikih modelih UI in niso bile prisotne v manjših različicah — ključni pojav pri razvoju LLM-ov.

Kaj so porajajoče zmožnosti?

Porajajoče zmožnosti so kvalitativni skoki v zmožnostih modelov UI, ki se pojavijo nenadoma po presegu določenega praga velikosti modela — in niso prisotni ali predvidljivi iz zmogljivosti manjših različic. Model z 10 milijardami parametrov se pri določeni nalogi popolnoma obnese, medtem ko model s 100 milijardami to isto nalogo reši z visoko natančnostjo.

Primeri porajajočih zmožnosti

Primeri, ki so presenečali raziskovalce: aritmetika večmestnih celih števil, reševanje analogij, sklepanje z verigo misli. Te zmožnosti se niso dale ekstrapolirati iz skaliranja.

Posledice za poslovno rabo

Pojavljanje otežuje napovedovanje: »dovolj dobro za naš primer« morda zahteva 10-krat večji model. Organizacije morajo redno vrednotiti nove različice modelov.