De belofte en het risico van AI in werving
Automatisering van kandidaatselectieprocessen biedt bedrijven reële voordelen: verkorting van de wervingstijd, vermindering van de administratieve belasting van recruiters, de mogelijkheid om meer sollicitaties te verwerken met gelijkblijvende middelen. Echter, de geschiedenis van AI-implementaties in HR is vol waarschuwingen — systemen die zijn getraind op historische data reproduceren bestaande vooroordelen en bestraffen kandidaten om redenen die niets met competenties te maken hebben. Een algoritme getraind op data van een organisatie die jarenlang voor bepaalde functies voornamelijk personen uit specifieke demografische groepen aannam, zal leren op exact dezelfde manier te discrimineren als eerdere menselijke beslissingen — maar sneller en op massale schaal.
EU AI Act en systemen met hoog risico
De EU-verordening inzake kunstmatige intelligentie (EU AI Act) classificeert AI-systemen die worden gebruikt bij werving, kandidaatselectie en personeelsbeheer ondubbelzinnig als systemen met hoog risico. Dit betekent verplichtingen die aanzienlijk verder gaan dan een gewone software-implementatie: een verplicht risicobeheersysteem, technische documentatie, registratie in de EU-database, het waarborgen van menselijk toezicht op elke beslissing, en de mogelijkheid om de grondslag van een beslissing uit te leggen aan een kandidaat die daarom vraagt. Organisaties die onbekend zijn met deze eisen riskeren financiële en reputatieschade.
- Verplichting tot discriminatierisicobeoordeling vóór en tijdens het gebruik
- Documentatie van trainingsdata — herkomst, representativiteit, mogelijke gecodeerde vooroordelen
- Uitlegbaarheidsmechanismen — een kandidaat moet kunnen achterhalen waarom het systeem een bepaalde beslissing heeft genomen
- Menselijk toezicht — automatische afwijzing van sollicitaties zonder menselijke verificatie is ontoelaatbaar
- Regelmatige audits op discriminerende patronen in de resultaten
Verantwoorde toepassingen van AI in HR
In tegenstelling tot wat het lijkt, verbiedt de EU AI Act het gebruik van AI in werving niet — het stelt normen voor verantwoord gebruik. Er zijn tal van toepassingen die waarde opleveren bij laag discriminatierisico. Automatische formele verwerking — verificatie van documentvolledigheid, controle op naleving van minimale formele eisen die vooraf door de organisatie zijn vastgesteld — vermindert de administratieve belasting zonder in te grijpen in de inhoudelijke beoordeling van de kandidaat. Planningsondersteuning — analyse van historische data op effectiviteit van wervingskanalen, tijd tot aanstelling, bronnen van de beste medewerkers — levert waardevolle strategische informatie.
Bias mitigation — concrete technieken
Organisaties die besluiten AI te implementeren ter ondersteuning van inhoudelijke selectie, moeten bewezen technieken voor het beperken van vooroordelen toepassen. Anonimisering van invoergegevens — verwijdering van naam, geslacht, leeftijd, foto en informatie over de opleiding vóór verwerking — elimineert de meest voorkomende discriminatievectoren. Diverse trainingsdata en regelmatige tests op demografische pariteit in de resultaten maken het mogelijk om drift van het systeem richting discriminerende patronen te detecteren. Elke systeembeslissing moet aan de recruiter worden gepresenteerd met een onderbouwing die verwijst naar concrete, meetbare competenties, niet naar oninterpreteerbare algoritme-uitkomsten.
ESKOM.AI benadert AI-toepassingen op het gebied van HR met volledig regulatoir bewustzijn voortvloeiend uit de EU AI Act. Systemen die een classificatie met hoog risico vereisen, worden geïmplementeerd met het volledige pakket aan vereiste documentatie, toezichtmechanismen en auditprocedures, waardoor klanten niet alleen de voordelen van automatisering krijgen maar ook de zekerheid van regulatoire naleving.