Što je objašnjiva AI?
Objašnjiva AI (XAI) je skup tehnika za razumijevanje i objašnjavanje zašto je AI model donio određenu odluku. Za razliku od "crne kutije," XAI pruža uvid u proces zaključivanja modela.
Zašto AI Act zahtijeva objašnjivost?
AI Act (čl. 13) nalaže "transparentnost" za visokorizične sustave — korisnici moraju razumjeti kako je sustav došao do svoje odluke. To se odnosi na kreditno bodovanje, zapošljavanje, medicinsku dijagnostiku. Nedostatak objašnjivosti = regulatorna neusklađenost.
XAI tehnike
SHAP — pokazuje doprinos svake značajke odluci. LIME — lokalna aproksimacija jednostavnijim, interpretabilnim modelom. Mape pažnje — vizualizacija na što se model "usredotočio" u ulaznim podacima. Chain of Thought — eksplicitno korak-po-korak zaključivanje za generativne modele.