Що таке упередженість AI?
Упередженість AI (англ. AI bias) - це систематичне, необґрунтоване віддавання переваги чи дискримінація певних груп моделлю штучного інтелекту. Упередженість виникає з нерівності в навчальних даних, помилок у маркуванні або припущень проєктантів моделі.
Типи упередженості
Упередженість даних - навчальний набір не репрезентує рівномірно всі групи (наприклад, резюме в основному чоловіків → модель віддає перевагу чоловікам). Алгоритмічна упередженість - архітектура моделі посилює існуючі нерівності. Упередженість реалізації - система застосовується в контексті, для якого вона не була спроєктована. Упередженість підтвердження - модель посилює існуючі переконання користувача.
Регуляторні вимоги
Закон про AI вимагає оцінки та мінімізації упередженості для систем високого ризику (стаття 10 - якість та репрезентативність даних). Компанії повинні документувати: склад навчальних наборів, метрики справедливості (рівність шансів, демографічна паритетність), процедури тестування упередженості та коригувальні механізми.