Що таке Human-in-the-Loop?
Human-in-the-Loop (HITL, людина в циклі) - це проектний шаблон, у якому система AI виконує завдання, але результат верифікується і/або затверджується людиною до подальшої обробки. Людина не замінюється - вона виконує роль контролера якості та безпеки.
Три варіанти нагляду
Human-in-the-loop: AI пропонує, людина приймає/відхиляє кожне рішення (наприклад, затвердження відповідей на рекламації). Human-on-the-loop: AI працює автономно, людина моніторить і втручається, коли щось піде не так (наприклад, моніторинг аномалій). Human-in-command: людина приймає стратегічні рішення, AI надає аналіз і рекомендації.
Коли потрібен HITL?
Закон про AI вимагає людського нагляду для систем високого ризику (стаття 14). Навіть поза юридичними вимогами, HITL необхідний, коли: рішення мають серйозні наслідки (фінанси, охорона здоров'я, право), модель працює в новій галузі (мало тренувальних даних), помилки AI можуть спричинити репутаційні збитки або відповідальність генерує ризик вище середнього.