Τι είναι η Μεροληψία ΤΝ;
Η μεροληψία ΤΝ είναι η συστηματική, αδικαιολόγητη ευνοϊκή ή δυσμενής μεταχείριση συγκεκριμένων ομάδων από ένα μοντέλο ΤΝ. Η μεροληψία πηγάζει από ανισότητες στα δεδομένα εκπαίδευσης, σφάλματα σήμανσης ή σχεδιαστικές παραδοχές των δημιουργών.
Τύποι μεροληψίας
Μεροληψία δεδομένων — το σύνολο εκπαίδευσης δεν αντιπροσωπεύει εξίσου όλες τις ομάδες. Αλγοριθμική μεροληψία — η αρχιτεκτονική μοντέλου ενισχύει υπάρχουσες ανισότητες. Μεροληψία ανάπτυξης — το σύστημα χρησιμοποιείται σε πλαίσια για τα οποία δεν σχεδιάστηκε. Μεροληψία επιβεβαίωσης — το μοντέλο ενισχύει τις υπάρχουσες πεποιθήσεις του χρήστη.
Ρυθμιστικές απαιτήσεις
Ο AI Act απαιτεί αξιολόγηση και ελαχιστοποίηση μεροληψίας για συστήματα υψηλού κινδύνου (Άρθρο 10 — ποιότητα και αντιπροσωπευτικότητα δεδομένων). Οι εταιρείες πρέπει να τεκμηριώνουν: σύνθεση συνόλου εκπαίδευσης, μετρικές δικαιοσύνης, διαδικασίες δοκιμών μεροληψίας και διορθωτικούς μηχανισμούς.