Kaj je Human-in-the-Loop?
Human-in-the-Loop (HITL) je oblikovni vzorec, pri katerem sistem UI opravi nalogo, vendar rezultat preveri in/ali odobri človek, preden se nadaljuje z obdelavo. Človek ni nadomeščen — služi kot nadzornik kakovosti in varnosti.
Tri različice nadzora
Human-in-the-loop: UI predlaga, človek sprejme/zavrne vsako odločitev. Human-on-the-loop: UI deluje avtonomno, človek spremlja in posreduje, ko gre kaj narobe. Human-in-command: človek sprejema strateške odločitve, UI zagotavlja analize in priporočila.
Kdaj je HITL obvezen?
AI Act zahteva človeški nadzor za visoko tvegane sisteme (čl. 14). Poleg zakonskih zahtev je HITL nujen, kadar: imajo odločitve resne posledice, model deluje na novih področjih, napake UI lahko povzročijo škodo ugledu.