UI akt — Nova regulatorna realnost
Evropska unija je postala prva jurisdikcija na svetu, ki je ustvarila celovite predpise za umetno inteligenco. UI akt je začel veljati avgusta 2024 in se postopno uporablja.
Pristop, ki temelji na tveganju
UI akt razvršča sisteme UI po stopnji tveganja: nesprejemljivo (prepovedano), visoko (stroge zahteve), omejeno (obveznosti preglednosti) in minimalno tveganje. Sistemi visokega tveganja zahtevajo registracijo, dokumentacijo upravljanja tveganja, nadzor kakovosti podatkov usposabljanja in mehanizme človekovega nadzora.
Praktične implikacije za podjetja
Za podjetja, ki uvajajo UI, so ključne obveznosti: ocena tveganja za vsako uvajanje, vzdrževanje dokumentacije o namenu in zmogljivostih sistema, zagotavljanje smiselnega nadzora človeka in vzpostavitev kanalov za poročanje o incidentih.