O que é o viés de IA?
O viés de IA é um favoritismo ou discriminação sistemática e injustificada em relação a determinados grupos por parte de um modelo de IA. O viés resulta de desigualdades nos dados de treino, erros de rotulagem ou pressupostos de design dos criadores.
Tipos de viés
Viés de dados — o conjunto de treino não representa todos os grupos de forma igual. Viés algorítmico — a arquitetura do modelo amplifica desigualdades existentes. Viés de implementação — o sistema é utilizado em contextos para os quais não foi concebido. Viés de confirmação — o modelo reforça as crenças existentes do utilizador.
Requisitos regulamentares
O AI Act exige avaliação e minimização do viés para sistemas de alto risco (Art. 10 — qualidade e representatividade dos dados). As empresas devem documentar: composição do conjunto de treino, métricas de equidade, procedimentos de teste de viés e mecanismos corretivos.