Co je Human-in-the-Loop?
Human-in-the-Loop (HITL) je návrhový vzor, ve kterém AI systém provede úlohu, ale výsledek je ověřen a/nebo schválen člověkem před dalším zpracováním. Člověk není nahrazen — slouží jako kontrolor kvality a bezpečnosti.
Tři varianty dohledu
Human-in-the-loop: AI navrhne, člověk přijme/odmítne každé rozhodnutí. Human-on-the-loop: AI funguje autonomně, člověk monitoruje a zasahuje, když se něco pokazí. Human-in-command: člověk činí strategická rozhodnutí, AI poskytuje analýzy a doporučení.
Kdy je HITL vyžadován?
AI Act vyžaduje lidský dohled pro vysoce rizikové systémy (čl. 14). Kromě zákonných požadavků je HITL nezbytný, když: rozhodnutí mají vážné následky, model působí v nových doménách, chyby AI mohou způsobit reputační škodu.