AI Act — nové regulačné prostredie
Nariadenie Európskej únie o umelej inteligencii (AI Act) je prvým komplexným nariadením o AI na svete. Vstúpilo do platnosti v auguste 2024 a jeho požiadavky vstupujú do platnosti postupne v rokoch 2025–2027.
Systém klasifikácie rizík
Neprijateľné riziko — zakázané aplikácie. Vysoké riziko — prísne požiadavky (kritická infraštruktúra, vzdelávanie, zamestnanosť, právne poradenstvo). Obmedzené riziko — povinnosti transparentnosti. Minimálne riziko — žiadne ďalšie povinnosti.
Požiadavky na systémy s vysokým rizikom
Systémy s vysokým rizikom musia spĺňať požiadavky: správa trénovacích dát, technická dokumentácia, transparentnosť voči používateľom, ľudský dohľad, presnosť a kybernetická bezpečnosť.