Vad är Human-in-the-Loop?
Human-in-the-Loop (HITL) är ett designmönster där ett AI-system utför en uppgift, men resultatet verifieras och/eller godkänns av en människa innan vidare bearbetning. Människan ersätts inte — den fungerar som kvalitets- och säkerhetskontrollant.
Tre tillsynsvarianter
Human-in-the-loop: AI föreslår, människa accepterar/avvisar varje beslut. Human-on-the-loop: AI verkar autonomt, människa övervakar och ingriper när något går fel. Human-in-command: människa fattar strategiska beslut, AI tillhandahåller analyser och rekommendationer.
När krävs HITL?
AI Act kräver mänsklig tillsyn för högrisk-system (Art. 14). Utöver lagkrav är HITL väsentligt när: beslut har allvarliga konsekvenser, modellen verkar i nya domäner, AI-fel kan orsaka rykteskada.