AI lubadus ja risk värbamises
Kandidaatide valikuprotsesside automatiseerimine pakub ettevõtetele reaalseid eeliseid: värbamisaja lühendamine, värbajate administratiivkoormuse vähendamine, suurema arvu avalduste töötlemine samade ressurssidega. Siiski on AI juurutamiste ajalugu personalijuhtimises täis hoiatavaid näiteid — ajaloolistel andmetel treenitud süsteemid kordavad olemasolevaid eelarvamusi, karistades kandidaate põhjustel, millel pole kompetentsidega mingit seost. Algoritm, mis on treenitud organisatsiooni andmetel, kus teatud ametikohtadele palgati aastaid peamiselt teatud koolidest või demograafilistest gruppidest inimesi, õpib diskrimineerima täpselt samamoodi nagu varasemad inimlikud otsused — kuid kiiremini ja masstootmise mahus.
EU AI Act ja kõrge riskiga süsteemid
Euroopa Liidu tehisintellekti määrus (EU AI Act) klassifitseerib värbamises, kandidaatide valikus ja töötajate juhtimises kasutatavad AI süsteemid ühemõtteliselt kõrge riskiga süsteemideks. See tähendab kohustusi, mis ulatuvad tavatarkvarast kaugemale: kohustuslik riskijuhtimissüsteem, tehniline dokumentatsioon, registreerimine liidu andmebaasis, inimjärelevalve tagamine iga otsuse üle ning võimalus selgitada otsuse aluseid kandidaadile, kes seda nõuab. Nendest nõuetest mitteteadlikud organisatsioonid riskivad rahaliste ja mainekahjudega.
- Diskrimineerimisriski hindamise kohustus enne juurutamist ja kasutamise ajal
- Treeningandmete dokumenteerimine — kust pärinevad, kui esinduslikud on, milliseid eelarvamusi võivad kodeerida
- Seletatavuse mehhanismid — kandidaadil peab olema võimalik teada saada, miks süsteem sellise otsuse tegi
- Inimjärelevalve — automaatsed avalduste tagasilükkamised ilma inimese kontrollita on lubamatud
- Regulaarsed auditid diskrimineerivate mustrite osas tulemustes
Vastutustundlikud AI rakendused personalijuhtimises
Vastupidiselt levinud arvamusele ei keela EU AI Act AI kasutamist värbamises — see seab vastutustundliku kasutuse standardid. On rida rakendusi, mis toovad väärtust madala diskrimineerimisriskiga. Automaatne formaalne töötlus — dokumentatsiooni täielikkuse kontrollimine, organisatsiooni poolt eelnevalt määratletud minimaalsete formaalsete nõuete täitmise kontrollimine — vähendab administratiivkoormust ilma kandidaadi sisulisele hindamisele sekkumata. Planeerimise tugi — ajalooliste andmete analüüs värbamiskanalite tõhususe, ametikoha täitmise aja, parimate töötajate allikate osas — annab väärtuslikku strateegilist teavet.
Kallutatuse vähendamine — konkreetsed tehnikad
Organisatsioonid, kes otsustavad juurutada AI-d sisulise valiku toetamiseks, peaksid rakendama tõestatud kallutatuse vähendamise tehnikaid. Andmete anonümiseerimine sisendis — nime, soo, vanuse, foto ja kooliinfo eemaldamine enne töötlemist — kõrvaldab levinumad diskrimineerimise vektorid. Mitmekesised treeningandmed ja regulaarsed demograafilise pariteedi testid tulemustes võimaldavad tuvastada süsteemi triivimist diskrimineerivate mustrite suunas. Iga süsteemi otsus peaks olema esitatud värbajale põhjendusega, mis viitab konkreetsetele, mõõdetavatele kompetentsidele, mitte algoritmi tõlgendamatutele tulemustele.
ESKOM.AI läheneb AI rakendustele personalijuhtimise valdkonnas täieliku regulatsiooniteadlikkusega, mis tuleneb EU AI Act’ist. Kõrge riskiga klassifitseerimist nõudvad süsteemid juurutatakse koos kogu vajaliku dokumentatsiooni, järelevalvemehhanismide ja auditi protseduuridega, tagades klientidele mitte ainult automatiseerimise eelised, vaid ka regulatiivse vastavuse kindluse.