A promessa e o risco da AI no recrutamento
A automação dos processos de seleção de candidatos oferece às empresas benefícios reais: redução do tempo de recrutamento, diminuição da carga administrativa dos recrutadores, possibilidade de processar mais candidaturas com os mesmos recursos. Contudo, a história das implementações de AI em RH está repleta de avisos — sistemas treinados em dados históricos reproduzem preconceitos existentes, penalizando candidatos por razões sem relação com as competências. Um algoritmo treinado em dados de uma organização que durante anos contratou predominantemente pessoas de determinados grupos demográficos para certas funções aprenderá a discriminar de forma idêntica às decisões humanas anteriores — mas mais rapidamente e em escala massiva.
EU AI Act e sistemas de alto risco
O regulamento da UE sobre inteligência artificial (EU AI Act) classifica inequivocamente os sistemas de AI utilizados no recrutamento, seleção de candidatos e gestão de pessoal como sistemas de alto risco. Isto implica obrigações que vão significativamente além de uma implementação de software normal: sistema obrigatório de gestão de risco, documentação técnica, registo na base de dados da UE, garantia de supervisão humana sobre cada decisão e possibilidade de explicar a base de uma decisão a um candidato que o solicite. As organizações desconhecedoras destes requisitos arriscam sanções financeiras e reputacionais.
- Obrigação de avaliação do risco de discriminação antes e durante a utilização
- Documentação dos dados de treino — origem, representatividade, preconceitos que podem codificar
- Mecanismos de explicabilidade — o candidato deve poder saber por que o sistema tomou determinada decisão
- Supervisão humana — rejeições automáticas de candidaturas sem verificação humana são inadmissíveis
- Auditorias regulares para padrões discriminatórios nos resultados
Utilizações responsáveis da AI em RH
Contrariamente às aparências, o EU AI Act não proíbe o uso de AI no recrutamento — estabelece normas de utilização responsável. Existem inúmeras aplicações que geram valor com baixo risco de discriminação. O processamento formal automático — verificação de completude de documentação, verificação do cumprimento de requisitos mínimos formais definidos previamente pela organização — reduz a carga administrativa sem interferir na avaliação de mérito do candidato. O apoio ao planeamento — análise de dados históricos sobre eficácia de canais de recrutamento, tempo até contratação, fontes dos melhores colaboradores — fornece informação estratégica valiosa.
Bias mitigation — técnicas concretas
As organizações que decidam implementar AI para apoio à seleção de mérito devem aplicar técnicas comprovadas de limitação de preconceitos. A anonimização dos dados de entrada — remoção de nome, género, idade, fotografia e informação sobre a instituição de ensino antes do processamento — elimina os vetores de discriminação mais comuns. Dados de treino diversificados e testes regulares de paridade demográfica nos resultados permitem detetar o desvio do sistema em direção a padrões discriminatórios. Cada decisão do sistema deve ser apresentada ao recrutador com uma justificação que remeta para competências concretas e mensuráveis, não para resultados algorítmicos ininterpretáveis.
A ESKOM.AI aborda as aplicações de AI na área de RH com plena consciência regulatória decorrente do EU AI Act. Os sistemas que requerem classificação de alto risco são implementados com o conjunto completo de documentação exigida, mecanismos de supervisão e procedimentos de auditoria, assegurando aos clientes não apenas os benefícios da automação mas também a certeza de conformidade regulatória.