Čo sú predsudky AI?
Predsudky AI (AI Bias) sú systematické, neoprávnené zvýhodňovanie alebo diskriminácia špecifických skupín AI modelom. Predsudky vznikajú z nerovností v trénovacích dátach, chýb v označovaní alebo predpokladov návrhárov.
Typy predsudkov
Dátové predsudky — trénovacia sada nerovnomerne reprezentuje všetky skupiny. Algoritmické predsudky — architektúra modelu zosilňuje existujúce nerovnosti. Predsudky nasadenia — systém použitý v kontextoch, pre ktoré nebol navrhnutý. Konfirmačné predsudky — model posilňuje existujúce presvedčenie používateľa.
Regulačné požiadavky
AI Act vyžaduje hodnotenie a minimalizáciu predsudkov pre vysoko rizikové systémy (čl. 10 — kvalita a reprezentatívnosť dát). Spoločnosti musia dokumentovať: zloženie trénovacej sady, metriky spravodlivosti, postupy testovania predsudkov a nápravné mechanizmy.