Что такое Human-in-the-Loop?
Human-in-the-Loop (HITL, человек в цикле) — это проектный паттерн, при котором система AI выполняет задачу, но результат проверяется и/или утверждается человеком перед дальнейшей обработкой. Человек не заменяется — он выполняет роль контролёра качества и безопасности.
Три варианта надзора
Human-in-the-loop: AI предлагает, человек принимает/отклоняет каждое решение (например, утверждение ответов на рекламации). Human-on-the-loop: AI действует автономно, человек мониторит и вмешивается, если что-то идёт не так (например, мониторинг аномалий). Human-in-command: человек принимает стратегические решения, AI предоставляет анализ и рекомендации.
Когда HITL обязателен?
AI Act требует человеческого надзора для систем высокого риска (ст. 14). Даже вне правовых требований HITL необходим, когда: решения имеют серьёзные последствия (финансы, здоровье, право), модель работает в новой области (мало обучающих данных), ошибки AI могут нанести репутационный ущерб или ответственность создаёт непропорциональный риск.