Mi az AI-elfogultság?
Az AI-elfogultság (AI Bias) az AI-modell szisztematikus, indokolatlan előnyben részesítése vagy hátrányos megkülönböztetése bizonyos csoportokkal szemben. Az elfogultság a képzési adatok egyenlőtlenségeiből, címkézési hibákból vagy a tervezők előfeltevéseiből ered.
Az elfogultság típusai
Adatelfogultság — a képzési adatkészlet nem egyenlően képviseli az összes csoportot. Algoritmikus elfogultság — a modell architektúrája felerősíti a meglévő egyenlőtlenségeket. Bevezetési elfogultság — a rendszert olyan kontextusban használják, amelyre nem tervezték. Megerősítési elfogultság — a modell megerősíti a felhasználó meglévő meggyőződéseit.
Szabályozási követelmények
Az AI Act előírja az elfogultság értékelését és minimalizálását a magas kockázatú rendszereknél (10. cikk — adatminőség és reprezentativitás). A vállalatoknak dokumentálniuk kell: a képzési adatkészlet összetételét, méltányossági metrikákat, elfogultsági tesztelési eljárásokat és korrekciós mechanizmusokat.