Čo je Human-in-the-Loop?
Human-in-the-Loop (HITL) je návrhový vzor, v ktorom AI systém vykoná úlohu, ale výsledok je overený a/alebo schválený človekom pred ďalším spracovaním. Človek nie je nahradený — slúži ako kontrolór kvality a bezpečnosti.
Tri varianty dohľadu
Human-in-the-loop: AI navrhne, človek prijme/odmietne každé rozhodnutie. Human-on-the-loop: AI funguje autonómne, človek monitoruje a zasahuje, keď sa niečo pokazí. Human-in-command: človek robí strategické rozhodnutia, AI poskytuje analýzy a odporúčania.
Kedy je HITL vyžadovaný?
AI Act vyžaduje ľudský dohľad pre vysoko rizikové systémy (čl. 14). Okrem zákonných požiadaviek je HITL nevyhnutný, keď: rozhodnutia majú vážne následky, model pôsobí v nových doménach, chyby AI môžu spôsobiť reputačnú škodu.