Que é a IA Explicábel?
A IA Explicábel (XAI) é un conxunto de técnicas para comprender e explicar por que un modelo de IA tomou unha decisión específica. A diferenza dunha «caixa negra», XAI proporciona visibilidade sobre o proceso de razoamento do modelo.
Por que a Lei de IA esixe explicabilidade?
A Lei de IA (Artigo 13) esixe «transparencia» para sistemas de alto risco — os usuarios deben entender como o sistema chegou á súa decisión. Isto aplícase á puntuación crediticia, selección de persoal, diagnóstico médico. Falta de explicabilidade = non cumprimento regulatorio.
Técnicas XAI
SHAP — mostra a contribución de cada característica á decisión. LIME — aproximación local cun modelo máis sinxelo e interpretábel. Mapas de atención — visualización do que o modelo «mirou» nos datos de entrada. Chain of Thought — razoamento explícito paso a paso para modelos xerativos.