Štyri úrovne rizika
EU AI Act zavádza systém klasifikácie rizík pre AI aplikácie. Systémy s neprijateľným rizikom sú úplne zakázané, vrátane sociálneho scoringu vládami. Vysoko rizikové systémy čelia prísnym požiadavkám a zahŕňajú AI používané v kritickej infraštruktúre, vzdelávaní, zamestnaní, esenciálnych službách, zdravotníctve a bezpečnostných praktikách. Systémy s obmedzeným rizikom musia spĺňať povinnosti transparentnosti.
Kritériá klasifikácie vysokého rizika
AI systém je klasifikovaný ako vysoko rizikový, ak patrí do špecifických kategórií prípadov použitia definovaných v prílohe III nariadenia alebo ak je bezpečnostnou komponentou produktu zahrnutého existujúcimi predpismi EU o harmonizácii. Vysoko rizikové systémy musia implementovať systém riadenia rizík, udržiavať vysoko kvalitné trénovacie dáta, poskytovať technickú dokumentáciu a zabezpečiť transparentnosť a ľudský dohľad.
Podniková stratégia zhody
Organizácie by mali začať vykonaním komplexnej inventarizácie všetkých AI systémov a mapovaním každého do príslušnej kategórie rizika. Pre vysoko rizikové systémy zriaďte rámce zhody riešiace všetky povinné požiadavky.