Hvad er Explainable AI?
Explainable AI (XAI) er en samling teknikker til at forstå og forklare, hvorfor en AI-model traf en specifik beslutning. I modsætning til en "sort boks" giver XAI indsigt i modellens ræsonneringsproces.
Hvorfor kræver AI Act forklarbarhed?
AI Act (Art. 13) kræver "transparens" for højrisikosystemer — brugere skal forstå, hvordan systemet nåede sin beslutning. Dette gælder kreditvurdering, rekruttering, medicinsk diagnostik. Mangel på forklarbarhed = manglende regeloverholdelse.
XAI-teknikker
SHAP — viser hvert kendetegns bidrag til beslutningen. LIME — lokal tilnærmelse med en enklere, fortolkbar model. Attention maps — visualisering af, hvad modellen "kiggede på" i inputdata. Chain of Thought — eksplicit trin-for-trin-ræsonnering for generative modeller.