AI Act i zapošljavanje kao visoki rizik
Europski zakon o umjetnoj inteligenciji (AI Act) eksplicitno klasificira AI sustave koji se koriste u zapošljavanju i upravljanju ljudskim resursima kao sustave visokog rizika. To znači obveznu procjenu sukladnosti, transparentnost algoritama, ljudski nadzor nad odlukama i pravo kandidata na objašnjenje odluke.
Gdje AI stvarno pomaže u zapošljavanju
Automatizacija pregleda životopisa najčešća je primjena — AI može obraditi stotine prijava u minutama, identificirati ključne kvalifikacije i stvoriti uži izbor.
Rizici algoritamske diskriminacije
AI model treniran na povijesnim odlukama o zapošljavanju replicira predrasude prethodnih donositelja odluka. Problem je što diskriminacija postaje nevidljiva — skrivena u korelacijama koje je algoritam pronašao u podacima.
Tehnike ublažavanja predrasuda
Odgovorna primjena zahtijeva aktivno ublažavanje predrasuda: anonimizacija podataka, revizija metrika pravednosti po demografskim skupinama, redovno testiranje, diversifikacija podataka za treniranje i uvođenje ljudskog pregleda na ključnim točkama odlučivanja.
Transparentnost i pravo na objašnjenje
Kandidat čija je prijava odbijena uz sudjelovanje AI-ja ima pravo znati kakvu je ulogu tehnologija odigrala u odluci. To zahtijeva pristupe objašnjivog AI-ja.