Mitä on tekoälyn harha?
Tekoälyn harha on systemaattista, perustelematonta suosimista tai syrjintää tiettyjä ryhmiä kohtaan tekoälymallin toimesta. Harha johtuu koulutusdatan epätasapainosta, merkintävirheistä tai luojien suunnitteluoletuksista.
Harhan tyypit
Dataharha — koulutusaineisto ei edusta kaikkia ryhmiä tasaisesti. Algoritmiharha — malliarkkitehtuuri vahvistaa olemassa olevia epätasapainoja. Käyttöönottoharha — järjestelmää käytetään konteksteissa, joihin sitä ei suunniteltu. Vahvistusharha — malli vahvistaa käyttäjän olemassa olevia uskomuksia.
Sääntelyvaatimukset
AI Act edellyttää harhan arviointia ja minimointia korkean riskin järjestelmille (Art. 10 — datan laatu ja edustavuus). Yritysten on dokumentoitava: koulutusaineiston koostumus, oikeudenmukaisuusmittarit, harhan testausmenettelyt ja korjaavat mekanismit.