Qu'est-ce que le Human-in-the-Loop ?
Le Human-in-the-Loop (HITL) est un patron de conception où un système IA effectue une tâche, mais le résultat est vérifié et/ou approuvé par un humain avant tout traitement ultérieur. L'humain n'est pas remplacé — il sert de contrôleur de qualité et de sécurité.
Trois variantes de supervision
Human-in-the-loop : l'IA propose, l'humain accepte/rejette chaque décision. Human-on-the-loop : l'IA opère de manière autonome, l'humain surveille et intervient en cas de problème. Human-in-command : l'humain prend les décisions stratégiques, l'IA fournit analyses et recommandations.
Quand le HITL est-il requis ?
L'AI Act exige une supervision humaine pour les systèmes à haut risque (Art. 14). Au-delà des exigences légales, le HITL est indispensable quand : les décisions ont des conséquences graves, le modèle opère dans de nouveaux domaines, ou les erreurs IA pourraient causer des dommages réputationnels.