Justice, algorithmes et intelligence artificielle

Module du Groupe Normes et justice

RENCONTRES DE LA SCIENCE POLITIQUE – Edition 2021

Sessions
– vendredi 2 juillet 9h-11h
– vendredi 2 juillet 11h15-13h15

Lien de connexion pour participer via Zoom : 

Lien zoom du 1er panel (9h-11h) : https://scpobx.zoom.us/j/98702265070

Lien zoom du 2e panel (11h15-13h15) : https://scpobx.zoom.us/j/96728106839

En matière de justice, de police et de policing, d’importantes controverses sont ouvertes autour des usages et effets des dispositifs d’intelligence artificielle sur la gestion des litiges, le processus décisionnel des magistrats, l’évolution des professions juridiques, de leurs pratiques et du droit, et plus largement sur l’extension des modes de surveillance et de contrôle social. Lors de ces deux panels seront analysés les enjeux professionnels et organisationnels, économiques et politiques de ces technologies, ainsi que les besoins en termes de gouvernance et de régulation.

Responsables scientifiques
Laurence Dumoulin (CNRS, Sciences Po Grenoble, PACTE)
Pierre Pozzi (CESDIP)
Cécile Vigour (CNRS, Sciences Po Bordeaux, Centre Emile Durkheim)

La question de l’intelligence artificielle est aujourd’hui l’objet de nombreux discours sociaux et politiques qui traversent scènes nationales et internationales et se diffractent dans une série de secteurs et d’arènes. Cela est aussi visible dans le cas français avec les prémisses d’une politique publique visant à faire de la France un acteur majeur de cette nouvelle économie, associée par certains à une nouvelle révolution industrielle[1], voire à une « révolution graphique »[2]. Les usages et effets possibles de l’intelligence artificielle sont analysés à travers le prisme sectoriel (médecine, sécurité, urbanisme, etc.[3]), mais aussi à travers les enjeux économiques et politiques[4] transversaux qu’ils suscitent. Les questions de droits et libertés, de démocratie ; les besoins en termes de gouvernance et de régulation sont d’emblée pointés comme des questions sociales et politiques de premier plan, qui demandent à être anticipées[5].

Les domaine du droit et de la justice, de la police et du policing[6] n’échappent pas à cette effervescence. Nombreuses sont les applications du numérique englobées sous le terme d’intelligence artificielle, présentées comme disruptives et objets de discours publics superlatifs : utilisation de la technologie blockchain pour certifier et sécuriser des transactions ; émergence de nouveaux services de règlement en ligne des conflits offerts directement aux justiciables ou aux intermédiaires du droit que sont les directions juridiques ou les cabinets d’avocats ; création de plateformes et d’outils algorithmiques d’analyse de grandes quantité de décisions de jurisprudence rendues disponibles par le biais de la politique d’open data du gouvernement et notamment de la loi dite Lemaire, etc. Certains travaux sur la police se montrent plus critiques à l’égard de l’extension de la surveillance et du contrôle social exercés par la police[7].

D’importantes controverses sont ouvertes autour des effets possibles de ces différents dispositifs sur la gestion des litiges d’une part, sur le processus décisionnel des magistrats d’autre part, sur l’évolution des professions juridiques et du droit lui-même[8] enfin.

• Ces dispositifs vont-ils contribuer à des formes de déjudiciarisation des litiges et conflits ?
• Qu’en est-il de l’autonomie décisionnelle et du pouvoir d’appréciation des juges dès lors qu’ils auront à disposition des outils rendant visibles des normes qui jusque-là étaient moins objectivées ?[9] En quoi les pratiques des professionnels du droit et de la sécurité sont-elles modifiées par ces technologies ?[10] L’Etat de droit s’en trouve-t-il recomposé ; si oui, comment ?[11]
• Comment la hiérarchie et l’autorité des juridictions et des décisions sera-t-elle consolidée ou modifiée dans un contexte juridique où certaines matières relèvent essentiellement du droit légiféré et d’autres d’un droit plus jurisprudentiel ?

Ces questions ne sont, bien entendu, pas exhaustives.

Les communications qui portent sur le système judiciaire, la police et le policing reposent sur des matériaux empiriques qualitatifs ou quantitatifs, qu’elles portent sur la France ou d’autres pays.

 

Organisation des deux panels

1^er panel (9h- 11h)

Lien zoom : https://scpobx.zoom.us/j/98702265070 

– Présentation par leurs auteur.e.s de 4 communications (1 heure)

• Christophe Dubois et Lisa Pelssers (Université de Liège), « Saisir la socio-matérialité du droit administratif : JurisDict et l’infrastructure juridico-administratif du Conseil d’Etat belge »
• Laurence Dumoulin (CNRS, Pacte, Sciences Po Grenoble), «La ‘justice prédictive’, traduction de l’open data dans la justice ? »
• Isabelle Sayn (CNRS, Centre Max Weber), « Les méthodes algorithmiques d’aide à la décision :  des barèmes comme les autres ? »
• Camille Girard-Chanudet (EHESS), « Petites mains et cerveaux multiples de l’intelligence artificielle. Une ethnographie du travail de conception d’un outil de pseudonymisation automatique à la Cour de Cassation »

– Discussion (20-30 minutes)

– Echanges avec la salle (30 minutes).

 

2^ème panel (11h15 – 13h15)

Lien zoom : https://scpobx.zoom.us/j/96728106839

– Présentation par leurs auteur.e.s de 2 communications (30 minutes)

• Morgane Hubert, «Les algorithmes prédictifs au service du juge : vers une déshumanisation de la justice pénale ? Regards critiques de juges d’instruction »
• Anthony Amicelle (Sciences Po Bordeaux, Centre Emile Durkheim), « Policing financier & Big data. La mise en algorithmes d’une politique internationale »

– Discussion (15-20 minutes)

– Echanges avec la salle (30 minutes, en élargissant la discussion aux présentations du 1^er panel).

– Echanges sur les travaux et orientations à venir du groupe Normes et justice (thèmes susceptibles d’être envisagés pour le prochain congrès de l’AFSP, modalités de réunion du groupe…)

 

[1] Cédric Villani, « Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne », Rapport de mission, 2017.

[2] Antoine Garapon et Jean Lassègue, Justice digitale. Révolution graphique et rupture anthropologique, Paris, PUF, 2017.

[3] Dossier Machines prédictives, Réseaux, 36, 2018.

[4] Dominique Cardon, À quoi rêvent les algorithmes : nos vies à l’heure des big data, Paris, Seuil, coll. La République des idées, 2015.

[5] Frank Pasquale, Black box society: les algorithmes secrets qui contrôlent l’économie et l’information, Limoges, FYP éditions, 2015 ; Sonia Desmoulin-Canselier et Daniel Le Métayer, Décider avec les algorithmes. Quelle place pour l’Homme, quelle place pour le droit ?, Paris : Dalloz, coll. « Les sens du droit », 2020, 275 p.

[6] Défini comme les activités de régulation et « opération de surveillance, couplée à la menace de sanctions en cas de déviance – soit immédiatement, soit en lançant des procédures pénales », Benjamin Bowling et al., The Politics of the Police, Oxford, Oxford University Press, 2019, p. 5.

[7] Sarah Brayne, “Big Data Surveillance: The Case of Policing”, American Sociological Review, 82 (5), 2017, p. 977-1008.

^[8] Isabelle Sayn, « Connaître la production des juridictions ou prédire les décisions de justice ? », Les Cahiers de la Justice, 2, 2019, p. 229‑42.

[9] Neil Hutton, « From intuition to database », Theoretical Criminology, 17(1), 2012, p. 109-128 et « Visible and Invisible Sentencing », dans Hondeghem Annie, Rousseaux X., Schoenaers Frédéric (eds), Modernization of the criminal justice chain and the judicial system: New insights on trust, cooperation and human capital, Springer, 2016 ; Cyrus Tata, “Resolute Ambivalence: Why Judiciaries Do Not Institutionalize Their Decision Support Systems”, International Review of Law, Computers & Technology, 14 (3), 2000 et du même auteur : Sentencing: a Social Process. Rethinking Research and Policy, London, Palgrave MacMillan, 2020 ; Dossier « Le droit à l’épreuve des algorithmes », Droit et Société, 3, 2019.

[10] Bilel Benbouzid, « Quand prédire, c’est gérer. La police prédictive aux États-Unis », Réseaux, 211/5, 2018, p.221‑56 ; Sarah Brayne et Angèle Christin, « Technologies of Crime Prediction: The Reception of Algorithms in Policing and Criminal Courts ». Social Problems, 2020, 1‑17 ; Ferguson AG, The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement, New York: NYU Press, 2017 et du même auteur, « Predictive policing theory », In Lave T. R., Miller E. J. (Eds.), The Cambridge Handbook of Policing in the United States, Cambridge University Press, 2019.

[11] Antoinette Rouvroy, Bernard Stiegler, « Le régime de vérité numérique. De la gouvernance algorithmique à un nouvel État de droit », Socio, 4, 2015, p. 113-140 ; Aleš Završnik, « Algorithmic Justice: Algorithms and Big Data in Criminal Justice Settings », European Journal of Criminology, 2019, 1-20.