Какво е Human-in-the-Loop?
Human-in-the-Loop (HITL) е дизайн модел, при който AI система изпълнява задача, но резултатът се проверява и/или одобрява от човек преди по-нататъшна обработка. Човекът не е заменен — той служи като контрольор на качеството и безопасността.
Три варианта на надзор
Human-in-the-loop: AI предлага, човекът приема/отхвърля всяко решение. Human-on-the-loop: AI работи автономно, човекът наблюдава и се намесва, когато нещо се обърка. Human-in-command: човекът взема стратегически решения, AI предоставя анализи и препоръки.
Кога е необходим HITL?
AI Act изисква човешки надзор за системи с висок риск (чл. 14). Освен законовите изисквания, HITL е от съществено значение, когато: решенията имат сериозни последици, моделът работи в нови домейни, грешките на AI могат да причинят репутационни щети.