O que é Human-in-the-Loop?
Human-in-the-Loop (HITL) é um padrão de design em que um sistema de IA realiza uma tarefa, mas o resultado é verificado e/ou aprovado por um ser humano antes de processamento adicional. O ser humano não é substituído — serve como controlador de qualidade e segurança.
Três variantes de supervisão
Human-in-the-loop: a IA propõe, o ser humano aceita/rejeita cada decisão. Human-on-the-loop: a IA opera de forma autónoma, o ser humano monitoriza e intervém quando algo corre mal. Human-in-command: o ser humano toma as decisões estratégicas, a IA fornece análises e recomendações.
Quando é exigido HITL?
O AI Act exige supervisão humana para sistemas de alto risco (Art. 14). Para além dos requisitos legais, o HITL é indispensável quando: as decisões têm consequências graves, o modelo opera em domínios novos, ou os erros de IA podem causar danos reputacionais.