Què és Human-in-the-Loop?
Human-in-the-Loop (HITL) és un patró de disseny on un sistema d'IA realitza una tasca, però el resultat és verificat i/o aprovat per un humà abans de continuar el processament. L'humà no és reemplaçat — serveix com a controlador de qualitat i seguretat.
Tres variants de supervisió
Human-in-the-loop: la IA proposa, l'humà accepta/rebutja cada decisió. Human-on-the-loop: la IA opera autònomament, l'humà monitoritza i intervé quan alguna cosa va malament. Human-in-command: l'humà pren decisions estratègiques, la IA proporciona anàlisis i recomanacions.
Quan és necessari HITL?
La Llei d'IA exigeix supervisió humana per a sistemes d'alt risc (Article 14). Més enllà dels requisits legals, HITL és essencial quan: les decisions tenen conseqüències greus, el model opera en dominis nous, els errors d'IA podrien causar dany reputacional.