X'inhi l-IA Spjegabbli?
L-IA Spjegabbli (XAI) hija ġabra ta' tekniki biex tifhem u tispjega għaliex mudell tal-IA ħa deċiżjoni speċifika. B'differenza minn "kaxxa sewda," XAI tipprovdi ħarsa lejn il-proċess ta' raġunament tal-mudell.
Għaliex l-Att dwar l-IA jirrikjedi spjegabbiltà?
L-Att dwar l-IA (Artikolu 13) jimponi "trasparenza" għal-sistemi ta' riskju għoli — l-utenti jridu jifhmu kif is-sistema waslet għad-deċiżjoni tagħha. Dan japplika għall-iskoring tal-kreditu, ir-reklutaġġ, id-dijanjożi medika. Nuqqas ta' spjegabbiltà = nuqqas ta' konformità regolatorja.
Tekniki XAI
SHAP — juri l-kontribuzzjoni ta' kull karatteristika għad-deċiżjoni. LIME — approssimazzjoni lokali b'mudell aktar sempliċi u interpretabbli. Mapep tal-attenzjoni — viżwalizzazzjoni ta' dak li l-mudell "ħares" fid-dejta ta' input. Chain of Thought — raġunament espliċitu pass pass għal-mudelli ġenerattivi.