Incidents algorithmiques, audit indépendant et contrôle parlementaire
Qu’est-ce qu’un incident algorithmique ?
C’est un événement au cours duquel un système produit, contribue à produire ou laisse se produire une erreur, un biais, une indisponibilité, une atteinte à la sécurité ou un effet sur les droits. Tous les incidents ne sont pas juridiquement des « incidents graves » au sens du règlement européen, mais tous doivent être enregistrés et qualifiés.
Chaîne de traitement
1. DétecterUtilisateur, contrôle automatique ou plainte.2. ContenirSuspendre l’usage ou revenir au mode dégradé.3. QualifierGravité, dossiers, données et droits touchés.4. NotifierAutorités et personnes selon les textes applicables.5. CorrigerCause, remédiation, test et retour d’expérience.
Délais et responsabilités
Le règlement européen prévoit que les fournisseurs de systèmes à haut risque signalent les incidents graves à l’autorité de surveillance compétente et fixe, en principe, un délai maximal de quinze jours après connaissance et établissement du lien causal ou probable. D’autres régimes peuvent imposer des délais plus courts, notamment en cas de violation de données personnelles. Le contrat doit donc exiger une alerte du fournisseur assez rapide pour permettre à l’administration de respecter ses propres obligations.
Données compréhensibles sans exposer les dossiers.
🧯
Pouvoir d’arrêt
Autorité identifiée pour suspendre le système.
Transparence utile : publier seulement un taux global de « précision » ne suffit pas. Il faut expliquer la définition de l’indicateur, le périmètre, la version du système, les catégories de dossiers et les limites de la mesure.
Deux ouvrages pour approfondir le redressement de la France
Pour prolonger « Incidents algorithmiques, audit indépendant et contrôle parlementaire », ces deux ouvrages développent le raisonnement, les mesures, le calendrier et les outils numériques associés à la transformation de l’État.
Réforme de l’État — Plan de Rupture
Le dossier fondateur : finances publiques, structures, calendrier et mesures.
