Okvir klasifikacije rizika
EU AI Act uvodi klasifikaciju AI sustava u četiri kategorije rizika, s različitim regulatornim zahtjevima za svaku. Ova klasifikacija je temelj cijele regulative — pravilna kategorizacija vašeg AI sustava je prvi korak prema usklađenosti.
Četiri kategorije
Neprihvatljivi rizik (zabranjeni): društveno bodovanje, biometrijsko prepoznavanje u javnom prostoru (osim iznimaka), manipulativne AI tehnike. Visoki rizik: zapošljavanje, kreditno bodovanje, medicinski uređaji, kritična infrastruktura — strogi zahtjevi. Ograničeni rizik: chatbotovi — obveze transparentnosti (korisnik mora znati da razgovara s AI). Minimalni rizik: spam filtri, AI igre — bez specifičnih zahtjeva.
Procjena i dokumentacija
Visokorizični sustavi zahtijevaju: sustav upravljanja rizicima (čl. 9), upravljanje podacima (čl. 10), tehničku dokumentaciju (čl. 11), vođenje evidencija (čl. 12), transparentnost prema korisnicima (čl. 13), ljudski nadzor (čl. 14), točnost i robustnost (čl. 15). Počnite procjenom koja je kategorija rizika vaš AI sustav.