¿Qué es el sesgo de IA?
El sesgo de IA es la favoritismo o discriminación sistemática e injustificada hacia determinados grupos por parte de un modelo de IA. El sesgo se origina en desigualdades en los datos de entrenamiento, errores de etiquetado o suposiciones de diseño de los creadores.
Tipos de sesgo
Sesgo de datos — el conjunto de entrenamiento no representa a todos los grupos por igual. Sesgo algorítmico — la arquitectura del modelo amplifica desigualdades existentes. Sesgo de despliegue — el sistema se usa en contextos para los que no fue diseñado. Sesgo de confirmación — el modelo refuerza las creencias existentes del usuario.
Requisitos regulatorios
El AI Act exige evaluación y minimización del sesgo para sistemas de alto riesgo (Art. 10 — calidad y representatividad de datos). Las empresas deben documentar: composición del conjunto de entrenamiento, métricas de equidad, procedimientos de prueba de sesgo y mecanismos correctivos.