Testiranje usklađenosti za AI Act
AI Act uvodi specifične zahtjeve testiranja za visokorizične AI sustave koji nadilaze standardno softversko testiranje. Organizacije moraju demonstrirati sukladnost kroz strukturirano testiranje koje pokriva: točnost, robustnost, pristranost, transparentnost i sigurnost — i to dokumentirati za regulatorne inspekcije.
Kategorije testiranja usklađenosti
Testiranje točnosti: izvedba modela na reprezentativnim skupovima podataka, uključujući demografske podgrupe. Testiranje robustnosti: izvedba na distribucijskim pomaknucima, oštećenim ulazima i granskim slučajevima. Testiranje pristranosti: jednakost metrika kroz zaštićene karakteristike. Testiranje transparentnosti: evaluacija metoda objašnjivosti. Sigurnosno testiranje: red teaming, adversarijalno testiranje.
Dokumentacija i revizijski tragovi
Usklađenost zahtijeva ne samo testiranje nego i dokumentaciju: skup za testiranje, metrike evaluacije, rezultati testiranja, utvrđene pristranosti i korektivne mjere, história verzija modela i procesi odobrenja. Ova dokumentacija mora biti dostupna regulatornim tijelima na zahtjev.