La justice prédictive en travail

Justice prédictive : de quoi parle-t-on ?

La justice prédictive désigne, pour le professeur Bruno Dondero, un ensemble d' « instruments d'analyse de la jurisprudence et des écritures des parties, instruments qui permettraient de prédire les décisions à venir dans des litiges similaires à ceux analysés ».

Par l'utilisation de statistiques retraitant l'ensemble des données jurisprudentielles, les outils de justice prédictive offriraient une solution à un problème juridique donné et prévoiraient, autant qu'il est possible, l'issue du litige. Cependant, l'attribution de ce caractère « prédictif » soulève quelques commentaires et une distinction lexicale s'impose avant de poursuivre plus avant l'analyse de cet exercice renouvelé de la justice.

Chronique Droit, Juristes et Pratique du Droit Augmentés

C'est avec un immense plaisir que nous vous présentons cette nouvelle chronique, fruit d'un partenariat entre Affiches Parisiennes (que nous remercions de leur confiance) et l'EDHEC Business School. Dans un contexte où le digital, le big data et le data analytics, le machine learning et l'intelligence artificielle transforment en profondeur et durablement la pratique du droit, créant des « juristes augmentés » mais appelant aussi un « Droit augmenté » au regard des enjeux et des nouveaux business models portés par le digital.

Cette chronique a pour objectif, une à deux fois par semaine, de traiter de questions d'actualité relatives à cette transformation. L'EDHEC Business School dispose de deux atouts pour contribuer aux réflexions sur ces sujets. D'une part, son centre de recherche LegalEdhec, dont les travaux – reconnus – à l'intersection entre le droit et la stratégie, et portant sur le management des risques juridiques et la performance juridique, l'amènent aujourd'hui à lancer son nouveau projet A3L (Advanced Law, Lawyers and Lawyering). D'autre part, ses étudiants, et en particulier ceux de sa Filière Business Law and Management (en partenariat avec la Faculté de droit de l'Université Catholique de Lille) et de son LLM Law & Tax Management, dont la formation et les objectifs professionnels les placent au cœur de ces enjeux du digital.

C'est l'addition de ces deux atouts qui donneront corps à cette chronique. Encadrés par les professeurs de l'EDHEC, les étudiants rédigeront et signeront les articles. Après tout, n‘est-il pas logique que ce soit les Millenials, ces « digital natives », qui viennent enrichir le débat ?

Christophe Roquilly, professeur et doyen du corps professoral et de la recherche à l'EDHEC Business School, directeur de LegalEdhec.

Clementina Barbaro, administratrice au Conseil de l'Europe et membre de la CEPEJ (Commission européenne pour l'efficacité de la justice) a rappelé, lors de cette soirée, la distinction entre la prédiction – qui suppose une capacité de clairvoyance presque surnaturelle pour « dire en amont » – et la prévision – qui part de données concrètes pour établir des pronostics.

Il semble qu'il conviendrait mieux de parler de justice prévisionnelle car, pour reprendre les mots de Loïc Cadiet, professeur à l'École de droit de la Sorbonne et président de la mission Open Data, « c'est le rétrospectif qui fait le prédictif ».

COMPAS, un outil controversé

Clementina Barbaro ajoutait également à la réflexion la notion de prescription, à la lumière d'un cas porté devant la Cour suprême du Wisconsin. En 2013, un juge de première instance condamnait Mr. Loomis à six ans de réclusion et s'appuyait sur les indications de l'outil de justice prédictive COMPAS pour prononcer cette mise en détention.

Il reportait explicitement la responsabilité de la décision sur l'algorithme. Mr Loomis a fait appel de ce procès jugé non équitable au motif qu'il ne pouvait contester les résultats de COMPAS. Les titres de journaux se sont alors multipliés autour de procès rendus par des algorithmes secrets, conçus pour envoyer arbitrairement les prévenus directement à la case « prison ».

COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) est un algorithme d'évaluation et d'appréciation des risques de récidive utilisé par les juges aux Etats-Unis. Créé par l'entreprise Northpointe Inc. en 2012, il est depuis utilisé, selon les Etats, à la discrétion du juge ou bien imposé en amont de la prise de décision.

Par le biais de 135 questions recouvrant le genre, l'environnement marital, familial, amical et éducatif du prévenu jusqu'à son passé criminel et son attitude face à la colère, COMPAS établit un pronostic de risque de récidive et vise à aider le juge à prendre la décision d'incarcérer, ou non, le prévenu.

La Cour suprême du Wisconsin n'a, par ailleurs, pas fait droit à la demande de Mr. Loomis ; l'outil COMPAS ayant simplement permis de fournir au juge de plus amples informations. Pour ce qui est de l'équité du procès, la Cour a estimé qu'il n'y avait pas de déséquilibre entre les parties dans la mesure où le juge n'a pas lui-même de maîtrise sur les résultats de l'algorithme.

La présentation de cet outil par Frank Fagan (professeur à l'EDHEC et chercheur à LegalEdhec) à l'occasion de la Nuit du Droit permet d'étudier deux pistes de réflexion.

Un outil au service des juges et des justiciables

D'une part, COMPAS ou toute autre intelligence du même type, est utilisé comme un outil, facilitateur du travail du juge, qui conserve bel et bien le dernier mot dans la prise de décision. Dans le contexte des contentieux de masse, lorsque des juges doivent faire face à plus d'un millier de décisions à rendre par an, les outils d'intelligence artificielle pour l'aide à la rédaction ou l'exploitation préalable de données peuvent s'avérer utiles et pertinents.

Loin de la version moderne de la boule de cristal, ils sont là pour éliminer les pertes d'efficacité et permettent une rapidité d'exécution. Et préservent, par là même, le contact humain dans la mission du juge, grâce au temps gagné sur les tâches administratives.

Concernant la perspective d'un déséquilibre des forces entre le prévenu et l'arsenal judiciaire, Frank Fagan a souligné que c'est bien le prévenu qui contrôle les informations fournies à l'algorithme, car c'est lui qui remplit le questionnaire et reste la meilleure personne pour répondre à ces questions. Et l'on peut alors imaginer l'importance de l'assistance de l'avocat dans cette étape de détermination du profil du prévenu.

Des résultats encore débattus

Cependant, les détracteurs de l'utilisation d'un tel outil sont nombreux et soulignent l'opacité de la programmation de l'algorithme. En effet, Northpointe refuse de révéler sa « formule » COMPAS qui relève du secret commercial. La question prégnante est alors celle de la prépondérance des critères donnée par COMPAS dans l'établissement de son analyse. L'association ProPublica a publié en 2016 une analyse relativement inquiétante sur une tendance raciste des résultats de COMPAS.

Cette thématique a été reprise par le professeur Hany Farid du Dartmouth College lors d'un Ted Talks début octobre. Ces études conjointes démontrent que les algorithmes de justice prédictive présentent un biais racial dans la mesure où les prévenus noirs sont plus souvent gratifiés à tort d'un risque de récidive que leurs alter ego blancs. Les erreurs d'appréciation de l'algorithme sont plus nombreuses envers les prévenus noirs que blancs. Ces résultats semblent donner raison aux craintes exprimées par le public de la Nuit du Droit qui soulevait le risque de manipulation des pronostics de l'intelligence artificielle.

De leur côté, les défenseurs de ces outils de justice prédictive les présentent comme une assurance d'une décision conforme au droit positif et une méthode de mesure des chances de gain ou de perte à l'issue du litige. La société française Prédictice promet d' « analyser des millions de décisions de justice en une seconde » pour donner un pourcentage de chances de succès.

Ce type de base de données est déjà utilisé dans les grands cabinets américains pour bâtir une stratégie en amont du procès, à l'instar de Lex Machina. L'entreprise californienne membre du réseau LexisNexis analyse toutes les décisions de justice rendues pour les classer par thème, juridiction, juge et résultat de la sentence. La pratique est arrivée récemment en France.

Le barreau de Lille a par ailleurs signé un accord avec Prédictice pour utiliser ses services sur une phase de test. Les cours d'appel de Douai et de Rennes ont également tenté l'expérience en avril 2017 mais l'aventure ne s'est pas avérée concluante ; les magistrats critiquent une mauvaise appréciation in concreto et des résultats parfois aberrants.

Transparence et mise à disposition des données

Des plateformes juridiques mettent déjà à disposition des acteurs du système judiciaire – juges comme justiciables, voire parties civiles – les décisions antérieures de jurisprudence. Jurinet reprend ainsi l'ensemble des décisions de la cour de cassation, JuriCA répertorie les décisions de cours d'appel, sans oublier Légifrance qui met à disposition du public un grand nombre de décisions d'ordre administratif et judiciaire. Mais l'accès est visiblement assez limité et des efforts sont encore à fournir pour que l'usager lambda puisse tirer profit cette masse de données brutes.

Cette question de l'ouverture de l'accès aux données fait partie des préoccupations du ministère de la Justice. Le professeur Loïc Cadiet, à qui avait été confiée une mission sur « L'open data des décisions de justice », a remis un rapport le 9 janvier 2018 à la garde des Sceaux, Nicole Belloubet. L'open data des décisions de justice s'inscrit dans un contexte général d'ouverture massive des données publiques.

La loi du 7 octobre 2016 pour une République numérique prévoit, aux articles 20 et 21, la mise à disposition du public à titre gratuit de l'ensemble des décisions de justice judiciaires comme administratives « dans le respect de la vie privée des personnes concernées ».

Il y a une marge de progression importante avant d'arriver à cette démocratisation des données puisque l'open data concernerait quelque 3 millions de décisions rendues chaque année par les juridictions civiles et 130 000 décisions pour les juridictions administratives. Un décret en Conseil d'État est attendu pour fixer les conditions d'application de l'open data.

Une question de société

Il paraît essentiel que les instances législatives et exécutives se saisissent du sujet car l'accessibilité aux décisions de justice, tout comme l'usage qui peut en être fait, présentent des enjeux démocratiques.
Une première question se pose sur l'utilisation des données ; les décisions de justice rendues relèvent d'un pouvoir régalien et leur exploitation – voire leur monétisation par des entreprises étrangères (ou non) – pose la question de la souveraineté de la justice française.

D'autre part, le public de la Nuit du Droit à l'EDHEC n'a pas manqué de souligner lors du brainstorming les risques liés à la sécurité ou la fuite des données et la violation des données personnelles.

Enfin, la justice prédictive présente le risque du déterminisme, par le biais d'un programme qui se contenterait de reproduire des discriminations, perpétuer un schéma et enfermer les gens dans leur passé sans laisser une possibilité de seconde chance.

Pascal North, juge au tribunal de grande instance de Lille, a rappelé lors de la Nuit du Droit combien juger était une mission lourde de conséquences et de responsabilité. D'où l'importance cruciale de l'éthique. Ethique dans la collecte des données, dans leur exploitation, et dans leur mise à disposition. Pour que l'exercice de la justice soit à la hauteur de nos exigences de société.