Τι είναι το Human-in-the-Loop;
Το Human-in-the-Loop (HITL) είναι ένα πρότυπο σχεδίασης όπου ένα σύστημα ΤΝ εκτελεί μια εργασία, αλλά το αποτέλεσμα επαληθεύεται ή/και εγκρίνεται από άνθρωπο πριν από περαιτέρω επεξεργασία. Ο άνθρωπος δεν αντικαθίσταται — λειτουργεί ως ελεγκτής ποιότητας και ασφάλειας.
Τρεις παραλλαγές εποπτείας
Human-in-the-loop: η ΤΝ προτείνει, ο άνθρωπος αποδέχεται/απορρίπτει κάθε απόφαση. Human-on-the-loop: η ΤΝ λειτουργεί αυτόνομα, ο άνθρωπος παρακολουθεί και παρεμβαίνει όταν κάτι πάει στραβά. Human-in-command: ο άνθρωπος παίρνει στρατηγικές αποφάσεις, η ΤΝ παρέχει αναλύσεις και συστάσεις.
Πότε απαιτείται το HITL;
Ο AI Act απαιτεί ανθρώπινη εποπτεία για συστήματα υψηλού κινδύνου (Άρθρο 14). Πέρα από τις νομικές απαιτήσεις, το HITL είναι απαραίτητο όταν: οι αποφάσεις έχουν σοβαρές συνέπειες, το μοντέλο λειτουργεί σε νέους τομείς, τα σφάλματα ΤΝ μπορεί να προκαλέσουν ζημιά φήμης.