Kaj je pristranskost UI?
Pristranskost UI je sistematično, neupravičeno dajanje prednosti ali diskriminacija določenih skupin s strani modela UI. Pristranskost izvira iz neenakomernosti v učnih podatkih, napak pri označevanju ali oblikovnih predpostavk ustvarjalcev.
Vrste pristranskosti
Pristranskost podatkov — učna množica ne zastopa enakomernosno vseh skupin. Algoritmična pristranskost — arhitektura modela ojača obstoječe neenakomernosti. Pristranskost uvedbe — sistem se uporablja v kontekstih, za katere ni bil oblikovan. Potrditvena pristranskost — model krepi obstoječa prepričanja uporabnika.
Regulativne zahteve
AI Act zahteva oceno in minimizacijo pristranskosti za visoko tvegane sisteme (čl. 10 — kakovost in reprezentativnost podatkov). Podjetja morajo dokumentirati: sestavo učne množice, metrike pravičnosti, postopke testiranja pristranskosti in korektivne mehanizme.