Qu'est-ce que la classification du risque IA ?
La classification du risque IA désigne des approches systématiques pour évaluer et catégoriser les applications d'IA selon leur potentiel de risque. Le règlement européen sur l'IA (AI Act) en est l'exemple le plus emblématique et divise les systèmes d'IA en quatre niveaux de risque : risque inacceptable, risque élevé, risque limité et risque minimal.
Catégories de risque dans l'AI Act européen
Les systèmes d'IA à risque inacceptable (p. ex. systèmes de notation sociale) sont interdits. L'IA à haut risque (p. ex. infrastructures critiques, éducation, emploi) est soumise à des exigences strictes. Les systèmes à risque limité doivent respecter des obligations de transparence. Les applications à faible risque ne sont soumises à aucune obligation spécifique.
Implications pour les entreprises
Les entreprises utilisant l'IA dans des domaines réglementés doivent classer leurs systèmes et mettre en œuvre les mesures de conformité correspondantes. Cela inclut des évaluations des risques, la documentation technique, des évaluations de conformité et des enregistrements dans les bases de données de l'UE pour les systèmes à haut risque.