Što je AI pristranost?
AI pristranost je sustavno, neopravdano favoriziranje ili diskriminacija određenih skupina od strane AI modela. Pristranost proizlazi iz neravnomjernosti u podacima za treniranje, pogrešaka u označavanju ili pretpostavki kreatora u dizajnu.
Vrste pristranosti
Pristranost podataka — skup za treniranje ne zastupa podjednako sve skupine. Algoritmička pristranost — arhitektura modela pojačava postojeće neravnomjernosti. Pristranost implementacije — sustav se koristi u kontekstima za koje nije dizajniran. Pristranost potvrde — model pojačava korisnikova postojeća uvjerenja.
Regulatorni zahtjevi
AI Act zahtijeva procjenu i minimizaciju pristranosti za visokorizične sustave (čl. 10 — kvaliteta i reprezentativnost podataka). Tvrtke moraju dokumentirati: sastav skupa za treniranje, metrike pravednosti, postupke testiranja pristranosti i korektivne mehanizme.