Zer da AA Azalgarria?
AA Azalgarria (XAI) AA eredu batek zergatik hartu duen erabaki zehatz bat ulertzeko eta azaltzeko tekniken bilduma da. «Kutxa beltz» batetik bereizita, XAI-k ereduaren arrazonamendu-prozesuaren ikusgarritasuna ematen du.
Zergatik eskatzen du AA Legeak azalgarritasuna?
AA Legeak (13. artikulua) «gardentasuna» eskatzen du arrisku handiko sistementzat — erabiltzaileek ulertu behar dute sistemak nola iritsi den bere erabakira. Honek kreditu-puntuazioa, kontratazio, mediku-diagnostikoa hartzen ditu. Azalgarritasun eza = araudiaren ez-betetzea.
XAI teknikak
SHAP — eginbide bakoitzaren ekarpena erabakian erakusten du. LIME — eredu sinple eta interpretagarri batekin tokiko hurbilketa. Arreta-mapak — ereduak sarrerako datuetan «zer begiratu» duen bistaratze-. Chain of Thought — sorkuntza-ereduetarako pausoz pausoko arrazonamendu esplizitua.