Kas ir MI neobjektivitāte?
MI neobjektivitāte ir MI modeļa sistemātiska, nepamatota labvēlība vai diskriminācija pret noteiktām grupām. Neobjektivitāte rodas no nevienlīdzībām apmācības datos, marķēšanas kļūdām vai veidotāju dizaina pieņēmumiem.
Neobjektivitātes veidi
Datu neobjektivitāte — apmācības kopa vienlīdzīgi neatspoguļo visas grupas. Algoritmiska neobjektivitāte — modeļa arhitektūra pastiprina esošās nevienlīdzības. Ieviešanas neobjektivitāte — sistēma tiek izmantota kontekstos, kuriem tā nebija paredzēta. Apstiprināšanas neobjektivitāte — modelis pastiprina lietotāja esošos uzskatus.
Normatīvās prasības
AI Act prasa augsta riska sistēmu neobjektivitātes novērtēšanu un minimizēšanu (10. pants — datu kvalitāte un pārstāvniecība). Uzņēmumiem jādokumentē: apmācības kopas sastāvs, godīguma metrikas, neobjektivitātes testēšanas procedūras un koriģējoši mehānismi.