Čo je AI compliance testing?
AI compliance testing je štruktúrovaný proces overovania, či AI systémy spĺňajú definované požiadavky – regulačné (EU AI Act, GDPR), odvetvové (HIPAA, SOX, Basel III) alebo interné firemné politiky. Na rozdiel od funkcionálneho testovania, ktoré overuje či systém robí to, čo má, compliance testing overuje či robí to, ako to má robiť.
S nástupom EU AI Act sa compliance testing stáva regulačne povinným pre vysoko-rizikové AI systémy.
Kľúčové oblasti testovania
Bias a fairness testing: overenie, či model nevykazuje diskrimináciu podľa chránených atribútov (pohlavie, rasa, vek). Používajú sa metriky ako demographic parity, equalized odds a counterfactual fairness. Robustnosť a bezpečnosť: testy odolnosti voči adversariálnym vstupom a útoky na model.
Explainability testing: overenie, či sú AI rozhodnutia vysvetliteľné a dokumentovateľné pre regulatórne účely. Privacy compliance: preverenie, či model neukladá, nepamätá ani nevyzradí osobné údaje z trénovacích dát (membership inference útoky).
Implementácia v organizácii
Compliance testing by mal byť zakomponovaný do AI development lifecycle – nielen pred nasadením, ale aj priebežne v produkcii (retest po retrainingu, periodický audit). AI Compliance Officer alebo AI Ethics Board zodpovedá za definovanie testovacích kritérií a interpretáciu výsledkov.