Kaj je revizija UI?
Revizija UI je celovita ocena, ki pokriva: kakovost in zanesljivost rezultatov, varnost podatkov, regulativno skladnost (AI Act, GDPR), preglednost odločitev, odpornost proti napadom in manipulacijam ter tveganje pristranskosti.
Kdaj je revizija obvezna?
Od 2. avgusta 2026 AI Act zahteva revizije za "visoko tvegane" sisteme UI — vključno z zaposlovanjem, kreditnim točkovanjem, zdravstvom in javno upravo. Tudi brez zakonske obveznosti je revizija najboljša praksa za upravljanje tveganj UI.
Obseg poslovne revizije
Profesionalna revizija UI pokriva: popis modelov in podatkovnih množic, testiranje kakovosti (natančnost, preciznost, priklic), oceno varnosti (red teaming, prompt injection), preverjanje regulativne skladnosti, analizo pristranskosti in pravičnosti ter oceno procesov upravljanja življenjskega cikla modela.