Čo je zero-shot learning?
Zero-shot learning popisuje schopnosť AI modelu vykonávať úlohy, ktoré neboli zahrnuté v jeho trénovaní – len na základe popisu úlohy v prirodzenom jazyku. "Prelož tento text do swahilčiny" alebo "Klasifikuj túto recenziu ako Pozitívna/Negatívna/Neutrálna" – bez jediného príkladu.
Táto schopnosť je jedným z najvýznamnejších prejavov inteligencie LLM a dramaticky znižuje potrebu špecializovaného fine-tuningu pre každú novú úlohu.
Few-shot learning
Few-shot learning rozširuje zero-shot o niekoľko demonštračných príkladov (typicky 1-10) v prompte. Modely sa učia z týchto príkladov "on the fly" počas inferencie – nie cez optimalizáciu váhových parametrov, ale cez in-context learning.
Príklady sú štruktúrované ako input-output páry: "Vstup: [príklad1], Výstup: [odpoveď1]. Vstup: [príklad2], Výstup: [odpoveď2]. Vstup: [nový vstup], Výstup: ?"
Kedy použiť zero vs. few-shot?
Zero-shot funguje dobre pre jednoduché, dobre definované úlohy, kde stačí popis. Few-shot je užitočný, keď formát odpovede nie je štandardný, úloha je špecifická pre danú doménu, alebo zero-shot výsledky sú nespoľahlivé. Chain-of-Thought few-shot (ukáž príklad uvažovania + odpovede) často dramaticky zlepšuje výkon na logických úlohách.