Co jsou předsudky AI?
Předsudky AI (AI Bias) jsou systematická, neoprávněná zvýhodňování nebo diskriminace specifických skupin AI modelem. Předsudky vznikají z nerovností v trénovacích datech, chyb v označování nebo předpokladů návrhářů.
Typy předsudků
Datové předsudky — trénovací sada nerovnoměrně reprezentuje všechny skupiny. Algoritmické předsudky — architektura modelu zesiluje existující nerovnosti. Předsudky nasazení — systém použitý v kontextech, pro které nebyl navržen. Konfirmační předsudky — model posiluje existující přesvědčení uživatele.
Regulační požadavky
AI Act vyžaduje hodnocení a minimalizaci předsudků pro vysoce rizikové systémy (čl. 10 — kvalita a reprezentativnost dat). Společnosti musí dokumentovat: složení trénovací sady, metriky spravedlnosti, postupy testování předsudků a nápravné mechanismy.