Какво са AI предразсъдъците?
AI предразсъдъците (AI Bias) са систематично, неоправдано привилегироване или дискриминация на определени групи от AI модел. Предразсъдъците произтичат от неравенства в данните за обучение, грешки в етикетирането или допускания на създателите.
Видове предразсъдъци
Предразсъдъци в данните — наборът за обучение не представя равномерно всички групи. Алгоритмични предразсъдъци — архитектурата на модела усилва съществуващите неравенства. Предразсъдъци при внедряване — системата се използва в контексти, за които не е проектирана. Потвърждаващи предразсъдъци — моделът подсилва съществуващите убеждения на потребителя.
Регулаторни изисквания
AI Act изисква оценка и минимизиране на предразсъдъците за системи с висок риск (чл. 10 — качество и представителност на данните). Компаниите трябва да документират: състав на набора за обучение, метрики за справедливост, процедури за тестване на предразсъдъци и коригиращи механизми.