A promesa e o risco da IA na selección de persoal
A automatización dos procesos de selección de candidatos ofrece ás empresas beneficios reais: redución do tempo de contratación, diminución da carga administrativa dos seleccionadores e a posibilidade de procesar máis solicitudes cos mesmos recursos. Non obstante, a historia das implementacións de IA en RH está chea de advertencias — os sistemas adestrados con datos históricos replican os sesgos existentes, penalizando candidatos por razóns que non teñen relación coas competencias. Un algoritmo adestrado con datos dunha organización que durante anos contratou principalmente persoas de determinadas universidades ou grupos demográficos aprenderá a discriminar identicamente ás decisións humanas anteriores — pero máis rápido e a escala masiva.
EU AI Act e sistemas de alto risco
O regulamento da Unión Europea sobre intelixencia artificial (EU AI Act) clasifica inequivocamente os sistemas de IA aplicados á selección de candidatos e á xestión de traballadores como sistemas de alto risco. Isto implica obrigas que van significativamente máis alá da simple implementación de software: un sistema obrigatorio de xestión de riscos, documentación técnica, rexistro na base de datos da UE, supervisión humana de cada decisión e a posibilidade de explicar a base da decisión ao candidato que o solicite. As organizacións desconocedoras destes requisitos arríscanse a sancións financeiras e reputacionais.
- Obriga de avaliación do risco de discriminación antes da implementación e durante o uso
- Documentación dos datos de adestramento — de onde proven, como de representativos son, que sesgos poden codificar
- Mecanismos de explicabilidade — o candidato debe poder saber por que o sistema tomou esa decisión
- Supervisión humana — os rexeitamentos automáticos de solicitudes sen verificación humana son inadmisibles
- Auditorías regulares para detectar patróns discriminatorios nos resultados
Aplicacións responsables da IA en RH
Ao contrario do que podería parecer, o EU AI Act non prohibe o uso da IA na selección de persoal — establece estándares de uso responsable. Hai unha serie de aplicacións que achegan valor con baixo risco de discriminación. O procesamento formal automático — verificación da completeza da documentación, comprobación do cumprimento dos requisitos formais mínimos establecidos pola organización — reduce a carga administrativa sen interferir na avaliación meritoria do candidato. O apoio á planificación — análise de datos históricos sobre a eficacia das canles de selección, tempo ata a contratación, fontes dos mellores traballadores — proporciona información estratéxica valiosa.
Mitigación de sesgos — técnicas concretas
As organizacións que decidan implementar IA de apoio á selección meritoria deberían aplicar técnicas probadas de redución de sesgos. A anonimización de datos de entrada — eliminación do nome, xénero, idade, fotografía e información da universidade antes do procesamento — elimina os vectores de discriminación máis comúns. Os datos de adestramento diversificados e as probas regulares de paridade demográfica nos resultados permiten detectar a deriva do sistema cara a patróns discriminatorios. Cada decisión do sistema debería presentárselle ao seleccionador cunha xustificación baseada en competencias concretas e medibles, non en resultados non interpretables do algoritmo.
ESKOM.AI aborda as aplicacións de IA no ámbito de RH con plena conciencia regulatoria derivada do EU AI Act. Os sistemas que requiren clasificación de alto risco implantan se coa documentación completa requirida, mecanismos de supervisión e procedementos de auditoría, asegurando aos clientes non só os beneficios da automatización, senón tambén a certeza de cumprimento normativo.