Kas yra Human-in-the-Loop?
Human-in-the-Loop (HITL) — tai projektavimo modelis, kuriame DI sistema atlieka užduotį, bet rezultatą patikrina ir/arba patvirtina žmogus prieš tolesnį apdorojimą. Žmogus nėra pakeičiamas — jis tarnauja kaip kokybės ir saugumo kontrolierius.
Trys priežiūros variantai
Human-in-the-loop: DI siūlo, žmogus priima/atmeta kiekvieną sprendimą. Human-on-the-loop: DI veikia autonomiškai, žmogus stebi ir įsikiša, kai kažkas negerai. Human-in-command: žmogus priima strateginius sprendimus, DI teikia analizes ir rekomendacijas.
Kada HITL privalomas?
DI aktas reikalauja žmogaus priežiūros didelės rizikos sistemoms (14 str.). Be teisinių reikalavimų, HITL yra būtinas, kai: sprendimai turi rimtų pasekmių, modelis veikia naujose srityse, DI klaidos gali sukelti reputacinę žalą.