Testiranje skladnosti za AI Akt
AI Akt uvaja posebne zahteve za testiranje visoko tveganih sistemov UI, ki presegajo standardno testiranje programske opreme. Organizacije morajo dokazati skladnost prek strukturiranega testiranja.
Kategorije testiranja skladnosti
Testiranje točnosti: zmogljivost modela na reprezentativnih niz podatkov. Testiranje robustnosti: zmogljivost pri distribucijskih premikih in robnih primerih. Testiranje pravičnosti: enakost metrik prek zaščitenih značilnosti. Varnostno testiranje: rdeče ekipe, adversarično testiranje.
Dokumentacija in revizijske sledi
Skladnost zahteva dokumentacijo: testni niz, metrike vrednotenja, rezultate testiranja in zgodovino različic modela. Ta dokumentacija mora biti na zahtevo na voljo regulativnim organom.