Kas yra DI šališkumas?
DI šališkumas — tai DI modelio sistemingas, nepagrįstas palankumas arba diskriminacija tam tikrų grupių atžvilgiu. Šališkumas kyla iš mokymo duomenų nelygybių, žymėjimo klaidų arba kūrėjų projektavimo prielaidų.
Šališkumo tipai
Duomenų šališkumas — mokymo rinkinys nevienodai atstovauja visas grupes. Algoritminis šališkumas — modelio architektūra sustiprina esamas nelygybes. Diegimo šališkumas — sistema naudojama kontekstuose, kuriems ji nebuvo projektuota. Patvirtinimo šališkumas — modelis sustiprina vartotojo esamus įsitikinimus.
Reguliaciniai reikalavimai
DI aktas reikalauja didelės rizikos sistemų šališkumo vertinimo ir minimizavimo (10 str. — duomenų kokybė ir reprezentatyvumas). Įmonės privalo dokumentuoti: mokymo rinkinio sudėtį, teisingumo metrikas, šališkumo testavimo procedūras ir korekcinius mechanizmus.