¿Qué es la IA explicable?
La IA explicable (XAI) es un conjunto de técnicas para entender y explicar por qué un modelo de IA tomó una decisión específica. A diferencia de una «caja negra», XAI proporciona visibilidad sobre el proceso de razonamiento del modelo.
¿Por qué el AI Act exige explicabilidad?
El AI Act (Art. 13) exige «transparencia» para los sistemas de alto riesgo — los usuarios deben entender cómo el sistema llegó a su decisión. Esto se aplica al scoring crediticio, contratación, diagnóstico médico. La falta de explicabilidad = incumplimiento normativo.
Técnicas XAI
SHAP — muestra la contribución de cada variable a la decisión. LIME — aproximación local con un modelo más simple e interpretable. Mapas de atención — visualización de en qué se «fijó» el modelo en los datos de entrada. Chain of Thought — razonamiento explícito paso a paso para modelos generativos.