Mitä on Human-in-the-Loop?
Human-in-the-Loop (HITL) on suunnittelumalli, jossa tekoälyjärjestelmä suorittaa tehtävän, mutta ihminen varmistaa ja/tai hyväksyy tuloksen ennen jatkokäsittelyä. Ihmistä ei korvata — hän toimii laadun ja turvallisuuden valvojana.
Kolme valvontavarianttia
Human-in-the-loop: tekoäly ehdottaa, ihminen hyväksyy/hylkää jokaisen päätöksen. Human-on-the-loop: tekoäly toimii autonomisesti, ihminen valvoo ja puuttuu asiaan, kun jokin menee pieleen. Human-in-command: ihminen tekee strategiset päätökset, tekoäly tarjoaa analyyseja ja suosituksia.
Milloin HITL vaaditaan?
AI Act edellyttää ihmisvalvontaa korkean riskin järjestelmille (Art. 14). Lakisääteisten vaatimusten lisäksi HITL on olennaista, kun: päätöksillä on vakavat seuraukset, malli toimii uusilla toimialoilla, tekoälyvirheet voivat aiheuttaa mainevahinkoa.