O que é a IA explicável?
A IA explicável (XAI) é um conjunto de técnicas para compreender e explicar porque é que um modelo de IA tomou uma decisão específica. Ao contrário de uma «caixa negra», a XAI proporciona visibilidade sobre o processo de raciocínio do modelo.
Porque é que o AI Act exige explicabilidade?
O AI Act (Art. 13) impõe «transparência» para sistemas de alto risco — os utilizadores devem compreender como o sistema chegou à sua decisão. Aplica-se ao scoring de crédito, recrutamento, diagnóstico médico. Falta de explicabilidade = não conformidade regulamentar.
Técnicas XAI
SHAP — mostra a contribuição de cada variável para a decisão. LIME — aproximação local com um modelo mais simples e interpretável. Mapas de atenção — visualização do que o modelo «olhou» nos dados de entrada. Chain of Thought — raciocínio explícito passo a passo para modelos generativos.