Hvad er Human-in-the-Loop?
Human-in-the-Loop (HITL) er et designmønster, hvor et AI-system udfører en opgave, men resultatet verificeres og/eller godkendes af et menneske, før det behandles videre. Mennesket erstattes ikke — det fungerer som kvalitets- og sikkerhedskontrollør.
Tre tilsynsvarianter
Human-in-the-loop: AI foreslår, menneske accepterer/afviser hver beslutning. Human-on-the-loop: AI opererer autonomt, menneske overvåger og griber ind, når noget går galt. Human-in-command: menneske træffer strategiske beslutninger, AI leverer analyser og anbefalinger.
Hvornår kræves HITL?
AI Act kræver menneskeligt tilsyn for højrisikosystemer (Art. 14). Ud over lovkrav er HITL essentielt, når: beslutninger har alvorlige konsekvenser, modellen opererer i nye domæner, AI-fejl kan forårsage omdømmeskade.