Što je Human-in-the-Loop?
Human-in-the-Loop (HITL) je obrazac dizajna u kojem AI sustav izvršava zadatak, ali rezultat provjerava i/ili odobrava čovjek prije daljnje obrade. Čovjek nije zamijenjen — služi kao kontrolor kvalitete i sigurnosti.
Tri varijante nadzora
Human-in-the-loop: AI predlaže, čovjek prihvaća/odbija svaku odluku. Human-on-the-loop: AI djeluje autonomno, čovjek prati i intervenira kad nešto krene po krivu. Human-in-command: čovjek donosi strateške odluke, AI pruža analize i preporuke.
Kada je HITL obavezan?
AI Act zahtijeva ljudski nadzor za visokorizične sustave (čl. 14). Osim zakonskih zahtjeva, HITL je neophodan kada: odluke imaju ozbiljne posljedice, model djeluje u novim domenama, greške AI-ja mogu uzrokovati reputacijsku štetu.