Ce sunt prejudecățile AI?
Prejudecățile AI (AI Bias) reprezintă favorizarea sau discriminarea sistematică și nejustificată a anumitor grupuri de către un model AI. Prejudecățile provin din inegalitățile datelor de antrenament, erorile de etichetare sau presupunerile creatorilor.
Tipuri de prejudecăți
Prejudecăți de date — setul de antrenament nu reprezintă egal toate grupurile. Prejudecăți algoritmice — arhitectura modelului amplifică inegalitățile existente. Prejudecăți de implementare — sistemul utilizat în contexte pentru care nu a fost proiectat. Prejudecăți de confirmare — modelul întărește convingerile existente ale utilizatorului.
Cerințe regulatorii
AI Act cere evaluarea și minimizarea prejudecăților pentru sistemele cu risc ridicat (Art. 10 — calitatea și reprezentativitatea datelor). Companiile trebuie să documenteze: compoziția setului de antrenament, metricile de echitate, procedurile de testare a prejudecăților și mecanismele corective.