Què és el Biaix de la IA?
El biaix de la IA és el favoritisme o discriminació sistemàtica i injustificada contra grups específics per part d'un model d'IA. El biaix prové de desigualtats a les dades d'entrenament, errors d'etiquetatge o suposicions de disseny dels creadors.
Tipus de biaix
Biaix de dades — el conjunt d'entrenament no representa tots els grups per igual. Biaix algorísmic — l'arquitectura del model amplifica desigualtats existents. Biaix de desplegament — el sistema s'utilitza en contextos per als quals no va ser dissenyat. Biaix de confirmació — el model reforça les creences existents de l'usuari.
Requisits regulatoris
La Llei d'IA exigeix avaluació i minimització del biaix per a sistemes d'alt risc (Article 10 — qualitat i representativitat de les dades). Les empreses han de documentar: composició del conjunt d'entrenament, mètriques d'equitat, procediments de prova de biaix i mecanismes correctius.