Validation humaine des décisions assistées par intelligence artificielle
Une décision assistée n’est légitime que si un humain compétent conserve le pouvoir et le temps de comprendre, vérifier, modifier et motiver.
La règle proposée
La mesure 4.09 impose une intervention humaine pour toute décision automatisée ou assistée produisant un effet défavorable. Le principe est simple : la personne responsable doit pouvoir comprendre, contrôler, corriger et assumer la décision. Un clic automatique sur « valider » ne constitue pas une supervision réelle.
Qu’est-ce qu’une décision défavorable ?
Dans le cadre proposé, il s’agit d’une décision qui refuse un droit, impose une obligation, aggrave une situation, limite une liberté, détermine une sanction ou influence de manière importante l’issue d’une procédure. La définition exacte devra être adaptée au civil, au pénal, à l’administratif et aux procédures internes.
Les cinq capacités que doit conserver l’humain
Le protocole minimal
- Identifier l’usage : le dossier indique le nom et la version de l’outil.
- Contrôler les entrées : les pièces déterminantes sont vérifiées.
- Examiner la sortie : erreurs, omissions et incohérences sont recherchées.
- Comparer : le décideur examine aussi les arguments contraires.
- Décider : il accepte, modifie ou écarte la proposition.
- Motiver : la décision est expliquée selon les règles de procédure.
- Tracer : l’intervention humaine est enregistrée.
- Informer : les voies de recours et, lorsque le droit l’impose, le rôle de l’outil sont indiqués.
Qui doit valider ?
La validation doit être exercée par l’autorité juridiquement compétente ou par un professionnel auquel la loi attribue la tâche concernée. La compétence ne peut pas être remplacée par une validation purement technique. Un informaticien peut contrôler le système ; il ne remplace pas le magistrat dans l’acte de juger.
