Čo je prompt engineering?
Prompt engineering je umenie a veda formulovania vstupov pre AI modely tak, aby produkovali žiaduce výstupy. Napriek tomu, že LLM sú neurónové siete natrénované na miliardách tokenov, ich správanie môže byť drasticky ovplyvnené tým, ako presne je formulovaná požiadavka.
Dobre navrhnutý prompt môže zlepšiť presnosť, znížiť halucinovanie, zabezpečiť požadovaný formát výstupu a aktivovať latentné schopnosti modelu.
Základné techniky
Zero-shot prompting zadáva úlohu bez príkladov. Few-shot prompting ukazuje niekoľko príkladov vstup-výstup pred samotnou otázkou. Chain-of-Thought (CoT) nabáda model na krokové uvažovanie – "Popremýšľaj krok za krokom" – čo dramaticky zlepšuje výkon na logických úlohách.
System prompts v ChatGPT-style rozhraniach definujú rolu a správanie modelu pre celú konverzáciu. Role-playing prompty ("Si expert na kybernetickú bezpečnosť...") môžu aktivovať špecializované znalosti.
Pokročilé metódy
ReAct (Reason + Act) kombinuje uvažovanie s použitím nástrojov. Tree of Thoughts prehľadáva viacero uvažovacích vetiev. Self-consistency generuje viacero odpovedí a vyberá tú najpoužívanejšiu. Prompt engineering súvisí aj s red teaming – systematickým hľadaním útokov na prompty, ktoré môžu spôsobiť neočakávané správanie.