Vad är AI-partiskhet?
AI-partiskhet är systematisk, omotiverad favorisering eller diskriminering av specifika grupper av en AI-modell. Partiskhet härrör från ojämlikheter i träningsdata, märkningsfel eller skaparnas designantaganden.
Typer av partiskhet
Datapartiskhet — träningsmängden representerar inte alla grupper lika. Algoritmisk partiskhet — modellarkitekturen förstärker befintliga ojämlikheter. Implementeringspartiskhet — system används i kontexter det inte var utformat för. Bekräftelsebias — modellen förstärker användarens befintliga övertygelser.
Regelkrav
AI Act kräver bedömning och minimering av partiskhet för högrisk-system (Art. 10 — datakvalitet och representativitet). Företag måste dokumentera: träningsmängdens sammansättning, rättvisemått, testprocedurer för partiskhet och korrigerande mekanismer.