Mitä on Explainable AI?
Explainable AI (XAI) on kokoelma tekniikoita, joilla ymmärretään ja selitetään, miksi tekoälymalli teki tietyn päätöksen. Toisin kuin "musta laatikko", XAI tarjoaa näkemyksen mallin päättelyprosessiin.
Miksi AI Act edellyttää selitettävyyttä?
AI Act (Art. 13) edellyttää "läpinäkyvyyttä" korkean riskin järjestelmiltä — käyttäjien on ymmärrettävä, miten järjestelmä päätyi päätökseensä. Tämä koskee luottoluokitusta, rekrytointia, lääketieteellistä diagnostiikkaa. Selitettävyyden puute = säädöstenmukaisuuden puute.
XAI-tekniikat
SHAP — näyttää kunkin ominaisuuden kontribuution päätökseen. LIME — paikallinen approksimaatio yksinkertaisemmalla, tulkittavalla mallilla. Attention maps — visualisointi siitä, mihin malli "katsoi" syötetiedoissa. Chain of Thought — eksplisiittinen vaiheittainen päättely generatiivisille malleille.