Vad är Explainable AI?
Explainable AI (XAI) är en samling tekniker för att förstå och förklara varför en AI-modell fattade ett specifikt beslut. Till skillnad från en "svart låda" ger XAI insikt i modellens resoneringsprocess.
Varför kräver AI Act förklarbarhet?
AI Act (Art. 13) kräver "transparens" för högrisk-system — användare måste förstå hur systemet nådde sitt beslut. Detta gäller kreditbedömning, rekrytering, medicinsk diagnostik. Brist på förklarbarhet = bristande regelefterlevnad.
XAI-tekniker
SHAP — visar varje egenskaps bidrag till beslutet. LIME — lokal approximation med en enklare, tolkbar modell. Attention maps — visualisering av vad modellen "tittade på" i indata. Chain of Thought — explicit steg-för-steg-resonering för generativa modeller.