Co je EU AI Act?
EU AI Act je přelomové nařízení přijaté Evropskou unií, které vytváří komplexní právní rámec pro vývoj, nasazení a používání systémů umělé inteligence. Je to první nařízení svého druhu na světě. Nařízení se vztahuje na jakoukoli organizaci nabízející AI systémy na trhu EU, bez ohledu na sídlo firmy.
Přístup založený na riziku
Nařízení klasifikuje AI systémy do čtyř kategorií rizika: nepřijatelné riziko (zcela zakázané, jako sociální scoring), vysoké riziko (přísné požadavky, včetně zdravotnických prostředků a nástrojů pro nábor), omezené riziko (povinnosti transparentnosti) a minimální riziko (většinou bez regulace). Systémy vysokého rizika musí projít posouzením shody a implementovat mechanismy lidského dohledu.
Dopady na podniky
Pro podniky nasazující AI vyžaduje nařízení robustní systémy řízení rizik, postupy správy dat a průběžné monitorování výkonu AI. Organizace musí zajistit transparentnost vůči uživatelům, vést podrobné záznamy a hlásit závažné incidenty. Za nesoulad hrozí pokuty až 35 milionů eur nebo 7 % celkového ročního obratu. Společnosti by měly začít auditovat své AI systémy, aby identifikovaly vysoce rizikové aplikace.