Qu'est-ce que l'IA explicable ?
L'IA explicable (XAI) est un ensemble de techniques pour comprendre et expliquer pourquoi un modèle IA a pris une décision spécifique. Contrairement à une « boîte noire », XAI offre une visibilité sur le processus de raisonnement du modèle.
Pourquoi l'AI Act exige-t-il l'explicabilité ?
L'AI Act (Art. 13) impose la « transparence » pour les systèmes à haut risque — les utilisateurs doivent comprendre comment le système est arrivé à sa décision. Cela s'applique au scoring de crédit, au recrutement, au diagnostic médical. L'absence d'explicabilité = non-conformité réglementaire.
Techniques XAI
SHAP — montre la contribution de chaque variable à la décision. LIME — approximation locale avec un modèle plus simple et interprétable. Cartes d'attention — visualisation de ce que le modèle a « regardé » dans les données d'entrée. Chain of Thought — raisonnement explicite étape par étape pour les modèles génératifs.