Que é o Sesgo da IA?
O sesgo da IA é o favoritismo ou discriminación sistemática e inxustificada contra grupos específicos por parte dun modelo de IA. O sesgo provén de desigualdades nos datos de adestramento, erros de etiquetaxe ou suposicións de deseño dos creadores.
Tipos de sesgo
Sesgo de datos — o conxunto de adestramento non representa todos os grupos por igual. Sesgo algorítmico — a arquitectura do modelo amplifica desigualdades existentes. Sesgo de despregamento — o sistema utilízase en contextos para os que non foi deseñado. Sesgo de confirmación — o modelo reforza as crenzas existentes do usuario.
Requisitos regulatorios
A Lei de IA esixe avaliación e minimización do sesgo para sistemas de alto risco (Artigo 10 — calidade e representatividade dos datos). As empresas deben documentar: composición do conxunto de adestramento, métricas de equidade, procedementos de proba de sesgo e mecanismos correctivos.