Qu'est-ce que le biais IA ?
Le biais IA est une faveur ou discrimination systématique et injustifiée envers certains groupes par un modèle IA. Le biais provient des inégalités dans les données d'entraînement, des erreurs d'étiquetage ou des hypothèses de conception des créateurs.
Types de biais
Biais de données — le jeu d'entraînement ne représente pas tous les groupes de manière égale. Biais algorithmique — l'architecture du modèle amplifie les inégalités existantes. Biais de déploiement — le système est utilisé dans des contextes pour lesquels il n'a pas été conçu. Biais de confirmation — le modèle renforce les croyances existantes de l'utilisateur.
Exigences réglementaires
L'AI Act exige l'évaluation et la minimisation des biais pour les systèmes à haut risque (Art. 10 — qualité et représentativité des données). Les entreprises doivent documenter : la composition du jeu d'entraînement, les métriques d'équité, les procédures de test de biais et les mécanismes correctifs.