Was ist Erklärbare KI?
Erklärbare KI (XAI) ist eine Sammlung von Techniken, um zu verstehen und zu erklären, warum ein KI-Modell eine bestimmte Entscheidung getroffen hat. Im Gegensatz zur „Black Box“ bietet XAI Einblick in den Argumentationsprozess des Modells.
Warum verlangt der AI Act Erklärbarkeit?
Der AI Act (Art. 13) schreibt „Transparenz“ für Hochrisikosysteme vor — Nutzer müssen verstehen, wie das System zu seiner Entscheidung gelangt ist. Dies gilt für Kreditscoring, Personalbeschaffung, medizinische Diagnostik. Fehlende Erklärbarkeit = regulatorische Nichtkonformität.
XAI-Techniken
SHAP — zeigt den Beitrag jedes Merkmals zur Entscheidung. LIME — lokale Approximation mit einem einfacheren, interpretierbaren Modell. Attention Maps — Visualisierung dessen, worauf das Modell in den Eingabedaten „geschaut“ hat. Chain of Thought — explizites schrittweises Reasoning bei generativen Modellen.