Was ist Human-in-the-Loop?
Human-in-the-Loop (HITL) ist ein Designmuster, bei dem ein KI-System eine Aufgabe ausführt, das Ergebnis aber von einem Menschen überprüft und/oder genehmigt wird, bevor es weiterverarbeitet wird. Der Mensch wird nicht ersetzt — er dient als Qualitäts- und Sicherheitscontroller.
Drei Überwachungsvarianten
Human-in-the-loop: KI schlägt vor, Mensch akzeptiert/lehnt jede Entscheidung ab. Human-on-the-loop: KI arbeitet autonom, Mensch überwacht und greift ein, wenn etwas schiefgeht. Human-in-command: Mensch trifft strategische Entscheidungen, KI liefert Analysen und Empfehlungen.
Wann ist HITL erforderlich?
Der AI Act verlangt menschliche Aufsicht für Hochrisikosysteme (Art. 14). Über die gesetzlichen Anforderungen hinaus ist HITL unverzichtbar, wenn: Entscheidungen schwerwiegende Konsequenzen haben, das Modell in neuen Domänen arbeitet oder KI-Fehler Reputationsschäden verursachen könnten.