Kas yra paaiškinamas DI?
Paaiškinamas DI (XAI) — tai technikų rinkinys DI modelio konkrečiam sprendimui suprasti ir paaiškinti. Skirtingai nuo "juodosios dėžės", XAI suteikia įžvalgą į modelio samprotavimo procesą.
Kodėl DI aktas reikalauja paaiškimumo?
DI aktas (13 str.) reikalauja "skaidrumo" didelės rizikos sistemoms — vartotojai turi suprasti, kaip sistema priėjo prie savo sprendimo. Tai taikoma kreditų vertinimui, įdarbinimui, medicininei diagnostikai. Paaiškimumo trūkumas = reguliacinė neatitiktis.
XAI technikos
SHAP — parodo kiekvienos savybės indėlį į sprendimą. LIME — vietinis priartinimas paprastesniu, interpretuojamu modeliu. Dėmesio žemėlapiai — vizualizacija, į ką modelis "žiūrėjo" įvesties duomenyse. Chain of Thought — aiškus žingsnis po žingsnio samprotavimas generatyviniams modeliams.