Что такое bias AI?
Предвзятость AI (англ. AI bias) — это систематическое, необоснованное благоприятствование или дискриминация определённых групп моделью искусственного интеллекта. Bias возникает из-за неравенства в обучающих данных, ошибок разметки или проектных допущений создателей модели.
Виды bias
Bias данных — обучающий набор не представляет равномерно все группы (например, резюме преимущественно мужчин → модель предпочитает мужчин). Алгоритмический bias — архитектура модели усиливает существующее неравенство. Bias внедрения — система применяется в контексте, для которого не проектировалась. Bias подтверждения — модель усиливает существующие убеждения пользователя.
Регуляторные требования
AI Act требует оценки и минимизации bias для систем высокого риска (ст. 10 — качество и репрезентативность данных). Компании обязаны документировать: состав обучающих наборов, метрики fairness (равенство возможностей, демографические паритеты), процедуры тестирования bias и корректирующие механизмы.