Mi a Human-in-the-Loop?
A Human-in-the-Loop (HITL) olyan tervezési minta, amelyben az AI-rendszer végrehajt egy feladatot, de az eredményt ember ellenőrzi és/vagy hagyja jóvá a további feldolgozás előtt. Az embert nem helyettesítik — ő a minőség és a biztonság felügyelője.
A felügyelet három változata
Human-in-the-loop: az AI javasol, az ember elfogadja/elutasítja minden döntést. Human-on-the-loop: az AI autonóm módon működik, az ember monitoroz és beavatkozik, ha valami rosszul megy. Human-in-command: az ember hozza a stratégiai döntéseket, az AI elemzéseket és javaslatokat nyújt.
Mikor szükséges a HITL?
Az AI Act emberi felügyeletet ír elő a magas kockázatú rendszerek számára (14. cikk). A jogi követelményeken túl a HITL elengedhetetlen, amikor: a döntéseknek súlyos következményei vannak, a modell új területeken működik, az AI hibái reputációs kárt okozhatnak.