Fonction auxiliaire
Recherche documentaire, conversion de format, détection de doublons et aide au classement sans effet sur l’analyse juridique.
Mesures 4.02 à 4.05
Intelligence artificielle dans la justice : usages et garde-fous
L’intelligence artificielle peut assister des tâches judiciaires, mais le niveau de contrôle doit augmenter à mesure que l’outil se rapproche du raisonnement juridique et de la décision.
Quatre usages proposés par le Plan
Les mesures 4.02 à 4.05 couvrent la pré-instruction des dossiers simples, la recherche de jurisprudence, l’analyse de cohérence par échantillonnage et le déploiement d’outils dans les juridictions. Ces fonctions ne présentent pas toutes le même risque. Un classement de pièces est très différent d’un système qui influence la solution d’un litige.
La distinction fondamentale
Aide au raisonnement
Recherche ciblée de jurisprudence, rapprochement de situations ou proposition de synthèse. Contrôle renforcé obligatoire.
Influence déterminante
Score, recommandation ou projet de décision susceptible d’orienter directement l’issue. Risque élevé et garde-fous maximaux.
Le règlement européen sur l’IA
Le règlement européen 2024/1689 classe comme systèmes à haut risque certains outils destinés à être utilisés par une autorité judiciaire, ou pour son compte, afin d’assister la recherche et l’interprétation des faits et du droit ou l’application du droit à un cas concret. Les activités purement auxiliaires qui n’influencent pas l’administration effective de la justice sont distinguées.
Cette qualification entraîne notamment des exigences de gestion des risques, de gouvernance des données, de documentation, de journalisation, de transparence, de supervision humaine, d’exactitude, de robustesse et de cybersécurité.
Le test en huit questions avant tout déploiement
- Finalité : quel problème concret l’outil doit-il résoudre ?
- Base juridique : quel texte autorise le traitement et l’usage des données ?
- Classement du risque : auxiliaire, aide à la décision ou influence déterminante ?
- Données : sont-elles pertinentes, licites, documentées et représentatives ?
- Performance : comment mesurer erreurs, biais, hallucinations et dérive ?
- Humain : qui contrôle, avec quelle compétence et quel temps disponible ?
- Trace : quelles versions, entrées, sorties et interventions sont conservées ?
- Recours : comment un justiciable peut-il contester ou demander une explication ?
Usages autorisables, usages à expérimenter, usages à exclure
| Usage | Position de travail | Condition principale |
|---|---|---|
| Recherche de jurisprudence | Autorisable sous contrôle | Sources vérifiables, citations traçables et possibilité de rechercher hors outil. |
| Classement de pièces | Autorisable progressivement | Contrôle qualité et mécanisme de correction. |
| Résumé d’un dossier | Expérimentation encadrée | Vérification systématique sur les pièces originales. |
| Analyse de cohérence | Expérimentation et audit | Ne pas imposer une uniformité artificielle ni produire un classement secret des magistrats. |
| Proposition de décision | Risque élevé | Cadre légal explicite, supervision renforcée et aucune automatisation de la décision finale. |
| Jugement autonome | Exclu par le projet | La fonction de juger reste humaine. |
Pourquoi le gain de productivité ne peut pas être annoncé comme certain
Un outil peut faire gagner du temps sur une tâche et en faire perdre ailleurs : vérification, correction, formation, documentation, gestion des incidents et contentieux. Le gain net doit donc être calculé après expérimentation, en incluant les coûts techniques, humains et juridiques.
Gain net = temps économisé − temps de contrôle − coûts d’exploitation − coûts d’erreur
Téléchargements
Précaution : les dispositions du RGPD, de la directive police-justice, de la loi Informatique et Libertés et du règlement européen sur l’IA doivent être cartographiées selon chaque usage, chaque juridiction et chaque type de donnée. Une seule étiquette juridique ne peut pas couvrir tous les cas.
