Ce este AI explicabilă?
AI explicabilă (XAI) este o colecție de tehnici pentru înțelegerea și explicarea motivului pentru care un model AI a luat o decizie specifică. Spre deosebire de o „cutie neagră", XAI oferă o privire în procesul de raționament al modelului.
De ce cere AI Act explicabilitatea?
AI Act (Art. 13) impune „transparența" pentru sistemele cu risc ridicat — utilizatorii trebuie să înțeleagă cum a ajuns sistemul la decizia sa. Aceasta se aplică scoring-ului de credit, recrutării, diagnosticului medical. Lipsa explicabilității = neconformitate regulatorie.
Tehnici XAI
SHAP — arată contribuția fiecărei caracteristici la decizie. LIME — aproximare locală cu un model mai simplu, interpretabil. Hărți de atenție — vizualizarea la ce s-a „uitat" modelul în datele de intrare. Chain of Thought — raționament explicit pas cu pas pentru modelele generative.