Hvad er AI-bias?
AI-bias er systematisk, uberettiget favorisering eller diskrimination af specifikke grupper af en AI-model. Bias stammer fra uligheder i træningsdata, mærkningsfejl eller skaberens designantagelser.
Typer af bias
Databias — træningssæt repræsenterer ikke alle grupper ligeligt. Algoritmisk bias — modelarkitektur forstærker eksisterende uligheder. Implementeringsbias — system bruges i kontekster, det ikke var designet til. Bekræftelsesbias — model forstærker brugerens eksisterende overbevisninger.
Regulatoriske krav
AI Act kræver biasvurdering og -minimering for højrisikosystemer (Art. 10 — datakvalitet og repræsentativitet). Virksomheder skal dokumentere: træningssættets sammensætning, retfærdighedsmetrikker, biastestprocedurer og korrigerende mekanismer.