Mis on seletatav tehisintellekt?
Seletatav tehisintellekt (XAI) on tehnikate kogum tehisintellekti mudeli konkreetse otsuse mõistmiseks ja selgitamiseks. Erinevalt "mustast kastist" pakub XAI sissevaate mudeli arutlusprotsessi.
Miks nõuab AI Act seletatavust?
AI Act (art 13) nõuab kõrge riskiga süsteemidelt "läbipaistvust" — kasutajad peavad mõistma, kuidas süsteem oma otsuseni jõudis. See kehtib krediidiskoorimisele, värbamisele, meditsiinilisele diagnostikale. Seletatavuse puudumine = regulatiivne mittevastavus.
XAI tehnikad
SHAP — näitab iga tunnuse panust otsusesse. LIME — lokaalne lähendamine lihtsama, tõlgendatava mudeliga. Tähelepanukaardid — visualiseerimine, millele mudel sisendandmetes "vaatas." Chain of Thought — selgesõnaline samm-sammuline arutluskäik generatiivsete mudelite jaoks.