Az AI Act és a toborzás mint magas kockázat
Az EU mesterséges intelligenciáról szóló rendelete (AI Act) kifejezetten magas kockázatú rendszerekként kategorizálja a toborzásban és humánerőforrás-kezelésben használt AI-rendszereket. Ez kötelező megfelelőségértékelést, algoritmikus átláthatóságot, emberi felügyeletet és a jelölt döntés-magyarázathoz való jogát jelenti.
Ahol az AI tényleg segít a toborzásban
Az önéletrajz-szűrés automatizálása a leggyakoribb alkalmazás — az AI percek alatt képes feldolgozni százas jelentkezéseket, azonosítani a kulcsképesítéseket és szűkebb listát készíteni.
Az algoritmikus diszkrimináció kockázatai
A korábbi felvételi döntéseken betanított AI-modell a korábbi döntéshozók előítéleteit replikálja. A probléma az, hogy a diszkrimináció láthatatlanná válik — az algoritmus által az adatokban talált korrelációkba rejtve.
Elfogultság-csökkentési technikák
A felelős AI-alkalmazás aktív elfogultság-csökkentést igényel: adatanonimizálás, fairness-metrikák auditálása demográfiai csoportonként, rendszeres tesztelés, a betanítási adatok diverzifikálása és emberi felülvizsgálat bevezetése a kulcsfontosságú döntési pontokon.
Átláthatóság és a magyarázathoz való jog
Az AI részvételével elutasított jelöltnek joga van tudni, milyen szerepet játszott a technológia a döntésben. Ehhez explainable AI megközelítések szükségesek.