Kas ir Human-in-the-Loop?
Human-in-the-Loop (HITL) ir dizaina modelis, kurā MI sistēma izpilda uzdevumu, bet rezultātu pārbauda un/vai apstiprina cilvēks pirms turpmākas apstrādes. Cilvēks netiek aizstāts — viņš kalpo kā kvalitātes un drošības kontrolieris.
Trīs uzraudzības varianti
Human-in-the-loop: MI piedāvā, cilvēks apstiprina/noraida katru lēmumu. Human-on-the-loop: MI darbojas autonomi, cilvēks uzrauga un iejaucas, kad kaut kas noiet greizi. Human-in-command: cilvēks pieņem stratēģiskus lēmumus, MI nodrošina analīzes un ieteikumus.
Kad HITL ir obligāts?
AI Act prasa cilvēka uzraudzību augsta riska sistēmām (14. pants). Papildus juridiskajām prasībām HITL ir nepieciešams, kad: lēmumiem ir nopietnas sekas, modelis darbojas jaunās nozarēs, MI kļūdas var radīt reputācijas kaitējumu.