La promesa i el risc de la IA en la selecció de personal
L'automatització dels processos de selecció de candidats ofereix a les empreses beneficis reals: reducció del temps de contractació, disminució de la càrrega administrativa dels seleccionadors i la possibilitat de processar més sol·licituds amb els mateixos recursos. No obstant això, la història de les implementacions d'IA en RH és plena d'advertències — els sistemes entrenats amb dades històriques repliquen els biaixos existents, penalitzant candidats per raons que no tenen relació amb les competències. Un algorisme entrenat amb dades d'una organització que durant anys va contractar principalment persones de determinades universitats o grups demogràfics aprendrà a discriminar idènticament a les decisions humanes anteriors — però més ràpidament i a escala massiva.
EU AI Act i sistemes d'alt risc
El reglament de la Unió Europea sobre intel·ligència artificial (EU AI Act) classifica inequívocament els sistemes d'IA aplicats a la selecció de candidats i la gestió de treballadors com a sistemes d'alt risc. Això implica obligacions que van significativament més enllà de la simple implementació de programari: un sistema obligatori de gestió de riscos, documentació tècnica, registre a la base de dades de la UE, supervisió humana de cada decisió i la possibilitat d'explicar la base de la decisió al candidat que ho sol·liciti. Les organitzacions desconeixedores d'aquests requisits s'arrisquen a sancions financeres i reputacionals.
- Obligació d'avaluació del risc de discriminació abans de la implementació i durant l'ús
- Documentació de les dades d'entrenament — d'on provenen, com de representatives són, quins biaixos poden codificar
- Mecanismes d'explicabilitat — el candidat ha de poder saber per què el sistema va prendre aquesta decisió
- Supervisió humana — els rebutjos automàtics de sol·licituds sense verificació humana són inadmissibles
- Auditories regulars per detectar patrons discriminatoris en els resultats
Aplicacions responsables de la IA en RH
Contrastant amb el que podria semblar, l'EU AI Act no prohibeix l'ús de la IA en selecció de personal — estableix estàndards d'ús responsable. Hi ha una sèrie d'aplicacions que aporten valor amb baix risc de discriminació. El processament formal automàtic — verificació de la completesa de la documentació, comprovació del compliment dels requisits formals mínims establerts per l'organització — redueix la càrrega administrativa sense interferir en l'avaluació meritòria del candidat. El suport a la planificació — anàlisi de dades històriques sobre l'eficàcia dels canals de selecció, temps fins a la contractació, fonts dels millors treballadors — proporciona informació estratègica valuosa.
Mitigació de biaixos — tècniques concretes
Les organitzacions que decideixin implementar IA de suport a la selecció meritòria haurien d'aplicar tècniques provades de reducció de biaixos. L'anonimització de dades d'entrada — eliminació del nom, gènere, edat, fotografia i informació de la universitat abans del processament — elimina els vectors de discriminació més comuns. Les dades d'entrenament diversificades i les proves regulars de paritat demogràfica en els resultats permeten detectar la deriva del sistema cap a patrons discriminatoris. Cada decisió del sistema s'hauria de presentar al seleccionador amb una justificació basada en competències concretes i mesurables, no en resultats no interpretables de l'algorisme.
ESKOM.AI aborda les aplicacions d'IA en l'àmbit de RH amb plena consciència regulatòria derivada de l'EU AI Act. Els sistemes que requereixen classificació d'alt risc s'implementen amb la documentació completa requerida, mecanismes de supervisió i procediments d'auditoria, assegurant als clients no només els beneficis de l'automatització, sinó també la certesa de compliment normatiu.