Перспектива та ризик штучного інтелекту в підборі кадрів
Автоматизація процесів відбору кандидатів пропонує підприємствам реальні вигоди: скорочення часу підбору, зменшення адміністративного навантаження рекрутерів, можливість обробляти більшу кількість заявок за постійних ресурсів. Однак історія впровадження штучного інтелекту в HR багата на застереження: системи, навчені на історичних даних, повторюють існуючі упередження, карфая кандидатів з причин, що не мають відношення до компетенцій. Алгоритм, навчений на даних організації, в якій протягом років на певні посади наймали в основному осіб з певних вузів або демографічних груп, навчиться дискримінувати точно так само, як і попередні людські рішення, але швидше і в масовому масштабі.
EU AI Act та системи високого ризику
Унієне регулювання щодо штучного інтелекту (EU AI Act) чітко класифікує системи штучного інтелекту, що застосовуються в підборі, відборі кандидатів та управлінні працівниками, як системи високого ризику. Це означає обов'язки, що значно виходять за рамки звичайного впровадження програмного забезпечення: обов'язкова система управління ризиком, технічна документація, реєстрація в європейській базі даних, забезпечення людського нагляду за кожною рішення та можливість пояснити підстави рішення щодо кандидата, який її вимагає. Організації, що не знають про ці вимоги, ризикують фінансовими та репутаційними санкціями.
- Обов'язок оцінки ризику дискримінації перед впровадженням та під час використання
- Документація тренувальних даних: звідки вони походять, наскільки репрезентативними вони є, які упередження можуть кодувати
- Механізми пояснюваності: кандидат мусить мати можливість дізнатися, чому система прийняла таке рішення
- Надзір людини: автоматичне відхилення заявок без верифікації людиною є недопустимим
- Регулярні аудити щодо дискримінаційних моделей у результатах
Відповідальні застосування AI в HR
Навіть попри це, EU AI Act не забороняє використання AI у рекруті, а визначає стандарти відповідальності. Існує ряд застосувань, які приносять вигоду при низькому ризику дискримінації. Автоматичне формальне оброблення (верифікація повноти документації, перевірка виконання мінімальних формальних вимог, визначених заздалегідь організацією) знижує адміністративне навантаження без втручання у змістовну оцінку кандидата. Підтримка планування (аналіз історичних даних щодо ефективності рекрутингових каналів, часу до працевлаштування, джерел найкращих працівників) надає цінної стратегічної інформації.
Bias mitigation: конкретні техніки
Організації, які вирішують впровадити штучний інтелект для підтримки змістовного відбору, повинні застосовувати перевірені методи обмеження упереджень. Анонімізація даних на вході (видалення імені, статі, віку, фотографії та інформації про навчальний заклад до обробки) усуває найпоширеніші вектори дискримінації. Відмінні навчальні дані та регулярні тести на демографічну паритетність результатів дозволяють виявляти дрейф системи в бік дискримінаційних моделей. Кожна рішення системи повинна подаватися рекрутерові з обґрунтуванням, що посилається на конкретні, вимірювані компетенції, а не на неінтерпретовані результати алгоритму.
ESKOM AI підходить до застосування штучного інтелекту в сфері HR з повною регуляторною свідомістю, що випливає з EU AI Act. Системи, що потребують класифікації високого ризику, впроваджуються з повним комплектом необхідної документації, механізмами нагляду та процедурами аудиту, забезпечуючи клієнтам не тільки вигоди від автоматизації, але й певність регуляторної відповідності.