Обещание и риск на AI в набирането
Автоматизацията на процесите за подбор на кандидати предлага на предприятията реални ползи: скъсяване на времето за набиране, намаляване на административното натоварване на рекрутерите, възможност за обработка на повече кандидатури при постоянни ресурси. Въпреки това историята на AI внедряванията в HR изобилства с предупреждения — системи, обучени на исторически данни, възпроизвеждат съществуващи предразсъдъци, наказвайки кандидати по причини, нямащи връзка с компетенциите. Алгоритъм, обучен на данни от организация, където в продължение на години на определени позиции са наемани предимно хора от конкретни университети или демографски групи, ще се научи да дискриминира идентично с предишните човешки решения — но по-бързо и в масов мащаб.
EU AI Act и системи с висок риск
Регламентът на ЕС относно изкуствения интелект (EU AI Act) еднозначно класифицира AI системите, използвани в набирането, подбора на кандидати и управлението на персонала, като системи с висок риск. Това означава задължения, значително надхвърлящи обичайното внедряване на софтуер: задължителна система за управление на риска, техническа документация, регистрация в базата данни на ЕС, осигуряване на човешки надзор над всяко решение и възможност за обяснение на основанието за решение пред кандидат, който го поиска. Организации, неосъзнаващи тези изисквания, рискуват финансови и репутационни санкции.
- Задължение за оценка на риска от дискриминация преди внедряване и по време на употреба
- Документация на данните за обучение — откъде идват, колко представителни са, какви предразсъдъци могат да кодират
- Механизми за обяснимост — кандидатът трябва да има възможност да научи защо системата е взела такова решение
- Човешки надзор — автоматичните отхвърляния на кандидатури без проверка от човек са недопустими
- Редовни одити за дискриминиращи модели в резултатите
Отговорни приложения на AI в HR
Въпреки привидността EU AI Act не забранява използването на AI в набирането — той определя стандартите за отговорна употреба. Съществуват редица приложения, които носят стойност при нисък риск от дискриминация. Автоматичната формална обработка — проверка на пълнотата на документацията, потвърждаване на минималните формални изисквания, предварително определени от организацията — намалява административното натоварване без намеса в съдържателната оценка на кандидата. Подкрепа за планирането — анализ на исторически данни по отношение на ефективността на каналите за набиране, времето до наемане, източниците на най-добрите служители — предоставя ценна стратегическа информация.
Bias mitigation — конкретни техники
Организации, които решат да внедрят AI, подпомагащ съдържателния подбор, трябва да прилагат доказани техники за ограничаване на предразсъдъците. Анонимизация на входните данни — премахване на име, пол, възраст, снимка и информация за университет преди обработка — елиминира най-честите вектори на дискриминация. Разнообразни данни за обучение и редовни тестове за демографски паритети в резултатите позволяват откриване на отклонение на системата към дискриминиращи модели. Всяко решение на системата трябва да бъде представено на рекрутера с обосновка, отнасяща се към конкретни, измерими компетенции, а не към неинтерпретируеми резултати на алгоритъма.
ESKOM.AI подхожда към приложенията на AI в областта на HR с пълна регулаторна осведоменост, произтичаща от EU AI Act. Системите, изискващи класификация като високорискови, се внедряват с пълния комплект изисквана документация, механизми за надзор и процедури за одит, осигурявайки на клиентите не само ползи от автоматизацията, но и увереност в регулаторната съвместимост.