Czym jest Human-in-the-Loop?
Human-in-the-Loop (HITL, człowiek w pętli) to wzorzec projektowy, w którym system AI wykonuje zadanie, ale wynik jest weryfikowany i/lub zatwierdzany przez człowieka przed dalszym przetwarzaniem. Człowiek nie jest zastąpiony — pełni rolę kontrolera jakości i bezpieczeństwa.
Trzy warianty nadzoru
Human-in-the-loop: AI proponuje, człowiek akceptuje/odrzuca każdą decyzję (np. zatwierdzanie odpowiedzi na reklamacje). Human-on-the-loop: AI działa autonomicznie, człowiek monitoruje i interweniuje gdy coś pójdzie źle (np. monitoring anomalii). Human-in-command: człowiek podejmuje strategiczne decyzje, AI dostarcza analizy i rekomendacje.
Kiedy HITL jest wymagany?
AI Act wymaga nadzoru ludzkiego dla systemów wysokiego ryzyka (art. 14). Nawet poza wymogami prawnymi, HITL jest niezbędny gdy: decyzje mają poważne konsekwencje (finanse, zdrowie, prawo), model działa w nowej domenie (mało danych treningowych), błędy AI mogą spowodować szkody reputacyjne lub odpowiedzialność generuje ryzyko ponadprzeciętne.