Wat is Explainable AI?
Explainable AI (XAI) is een verzameling technieken om te begrijpen en uit te leggen waarom een AI-model een specifieke beslissing heeft genomen. In tegenstelling tot een "black box" biedt XAI inzicht in het redeneringsproces van het model.
Waarom vereist de AI Act uitlegbaarheid?
De AI Act (Art. 13) schrijft "transparantie" voor hoog-risicosystemen voor — gebruikers moeten begrijpen hoe het systeem tot zijn beslissing is gekomen. Dit geldt voor kredietscorebeoordeling, werving, medische diagnostiek. Gebrek aan uitlegbaarheid = niet-naleving van regelgeving.
XAI-technieken
SHAP — toont de bijdrage van elk kenmerk aan de beslissing. LIME — lokale benadering met een eenvoudiger, interpreteerbaar model. Attention maps — visualisatie van waar het model "naar keek" in de invoerdata. Chain of Thought — expliciet stapsgewijs redeneren voor generatieve modellen.