Što je kartica modela?
Kartica modela (Model Card) je kratki, standardizirani dokumentacijski artifact koji pruža transparentne informacije o AI modelu: za što je namijenjen, na čemu je treniran, kako je evaluiran, gdje zakazuje i koje pristranosti su identificirane. Uveo je Google u 2019., a sada je de facto standard za odgovorno AI.
Sadržaj kartice modela
Detalji modela: arhitektura, tip, verzija, autori. Namjena: primarni i sekundarni slučajevi korištenja, van-opsega primjene. Faktori relevantnosti: demografske grupe, okoline gdje izvedba varira. Metrike: performansne metrike, evaluacijski skupovi podataka. Etička razmatranja: potencijalne pristranosti, rizici, preporuke za ublažavanje.
Regulatorna važnost
AI Act zahtijeva tehničku dokumentaciju za visokorizične sustave (čl. 11) koja obuhvaća informacije slične karticama modela. Organizacije koje koriste AI od trećih strana trebaju zahtijevati kartice modela kao dio due diligence procesa. Bez jasne dokumentacije o pristranostima i ograničenjima, deploymenti mogu uzrokovati neočekivane štetne ishode.