Glossaire encyclopédique · France
système d’IA à haut risque
Catégorie du règlement européen sur l’intelligence artificielle soumise à des obligations renforcées en raison des effets potentiels du système sur la sécurité ou les droits fondamentaux.
Définition développée
La qualification dépend de l’usage et du champ défini par le règlement; elle ne résulte pas simplement de la puissance technique ou de la complexité du modèle.
La qualification dépend de l’usage et du champ défini par le règlement ; elle ne résulte pas simplement de la puissance technique ou de la complexité du modèle.
Pourquoi cette notion compte
Le règlement européen sur l’intelligence artificielle classe certains systèmes ou usages dans la catégorie des systèmes d’IA à haut risque. Cette qualification déclenche des obligations renforcées portant notamment sur la gestion des risques, la documentation, les données, la supervision humaine et la traçabilité selon le rôle de l’acteur.
Exemple concret
La qualification de système d’IA à haut risque déclenche des obligations renforcées. Pour l’État, elle influence directement les coûts de conformité, les preuves à conserver et la supervision humaine; un gain de productivité ne peut donc être chiffré sans intégrer ces exigences lorsque l’usage entre dans le champ concerné.
À ne pas confondre
Une administration envisage un système d’IA utilisé dans un domaine visé par le règlement et susceptible d’influencer une décision importante. Avant la mise en service, elle vérifie si l’usage entre dans une catégorie à haut risque puis organise les contrôles, la documentation et la supervision exigés.
Sources et références
Approfondir
Ouvrir le parcours Delta-Sierra de transmission du savoir économique →