¿Qué es Human-in-the-Loop?
Human-in-the-Loop (HITL) es un patrón de diseño en el que un sistema de IA realiza una tarea, pero el resultado es verificado y/o aprobado por un humano antes de su procesamiento posterior. El humano no es reemplazado — sirve como controlador de calidad y seguridad.
Tres variantes de supervisión
Human-in-the-loop: la IA propone, el humano acepta/rechaza cada decisión. Human-on-the-loop: la IA opera de forma autónoma, el humano monitoriza e interviene cuando algo va mal. Human-in-command: el humano toma las decisiones estratégicas, la IA proporciona análisis y recomendaciones.
¿Cuándo se requiere HITL?
El AI Act exige supervisión humana para sistemas de alto riesgo (Art. 14). Más allá de los requisitos legales, HITL es imprescindible cuando: las decisiones tienen consecuencias graves, el modelo opera en dominios nuevos, o los errores de IA podrían causar daño reputacional.