Mis on tehisintellekti kallutatus?
Tehisintellekti kallutatus on tehisintellekti mudeli süstemaatiline, põhjendamatu soosing või diskrimineerimine teatud gruppide suhtes. Kallutatus tuleneb treeningandmete ebavõrdsustest, märgistamisvigadest või loojate disainieeldustest.
Kallutatuse tüübid
Andmete kallutatus — treeningkogum ei esinda kõiki gruppe võrdselt. Algoritmiline kallutatus — mudeli arhitektuur võimendab olemasolevaid ebavõrdsusi. Juurutamise kallutatus — süsteemi kasutatakse kontekstides, milleks see ei olnud kavandatud. Kinnituskallutatus — mudel tugevdab kasutaja olemasolevaid veendumusi.
Regulatiivsed nõuded
AI Act nõuab kõrge riskiga süsteemide kallutatuse hindamist ja minimeerimist (art 10 — andmete kvaliteet ja esindatus). Ettevõtted peavad dokumenteerima: treeningkogumi koosseisu, õigluse mõõdikud, kallutatuse testimise protseduurid ja korrigeerivad mehhanismid.