Què és la IA Explicable?
La IA Explicable (XAI) és un conjunt de tècniques per comprendre i explicar per què un model d'IA ha pres una decisió específica. A diferència d'una «caixa negra», XAI proporciona visibilitat sobre el procés de raonament del model.
Per què la Llei d'IA exigeix explicabilitat?
La Llei d'IA (Article 13) exigeix «transparència» per a sistemes d'alt risc — els usuaris han d'entendre com el sistema ha arribat a la seva decisió. Això s'aplica a la puntuació creditícia, selecció de personal, diagnòstic mèdic. Manca d'explicabilitat = no conformitat regulatòria.
Tècniques XAI
SHAP — mostra la contribució de cada característica a la decisió. LIME — aproximació local amb un model més simple i interpretable. Mapes d'atenció — visualització del que el model ha «mirat» a les dades d'entrada. Chain of Thought — raonament explícit pas a pas per a models generatius.