le portail de la science politique française

rechercher

Actualité

Justice, algorithmes et intelligence artificielle

Module du Groupe Normes et justice

RENCONTRES DE LA SCIENCE POLITIQUE – Edition 2021

Sessions
– vendredi 2 juillet 9h-11h
– vendredi 2 juillet 11h15-13h15

Lien de connexion pour participer via Zoom : 

Lien zoom du 1er panel (9h-11h) : https://scpobx.zoom.us/j/98702265070

Lien zoom du 2e panel (11h15-13h15) : https://scpobx.zoom.us/j/96728106839

En matière de justice, de police et de policing, d’importantes controverses sont ouvertes autour des usages et effets des dispositifs d’intelligence artificielle sur la gestion des litiges, le processus décisionnel des magistrats, l’évolution des professions juridiques, de leurs pratiques et du droit, et plus largement sur l’extension des modes de surveillance et de contrôle social. Lors de ces deux panels seront analysés les enjeux professionnels et organisationnels, économiques et politiques de ces technologies, ainsi que les besoins en termes de gouvernance et de régulation.

Responsables scientifiques
Laurence Dumoulin (CNRS, Sciences Po Grenoble, PACTE)
Pierre Pozzi (CESDIP)
Cécile Vigour (CNRS, Sciences Po Bordeaux, Centre Emile Durkheim)

La question de l’intelligence artificielle est aujourd’hui l’objet de nombreux discours sociaux et politiques qui traversent scènes nationales et internationales et se diffractent dans une série de secteurs et d’arènes. Cela est aussi visible dans le cas français avec les prémisses d’une politique publique visant à faire de la France un acteur majeur de cette nouvelle économie, associée par certains à une nouvelle révolution industrielle[1], voire à une « révolution graphique »[2]. Les usages et effets possibles de l’intelligence artificielle sont analysés à travers le prisme sectoriel (médecine, sécurité, urbanisme, etc.[3]), mais aussi à travers les enjeux économiques et politiques[4] transversaux qu’ils suscitent. Les questions de droits et libertés, de démocratie ; les besoins en termes de gouvernance et de régulation sont d’emblée pointés comme des questions sociales et politiques de premier plan, qui demandent à être anticipées[5].

Les domaine du droit et de la justice, de la police et du policing[6] n’échappent pas à cette effervescence. Nombreuses sont les applications du numérique englobées sous le terme d’intelligence artificielle, présentées comme disruptives et objets de discours publics superlatifs : utilisation de la technologie blockchain pour certifier et sécuriser des transactions ; émergence de nouveaux services de règlement en ligne des conflits offerts directement aux justiciables ou aux intermédiaires du droit que sont les directions juridiques ou les cabinets d’avocats ; création de plateformes et d’outils algorithmiques d’analyse de grandes quantité de décisions de jurisprudence rendues disponibles par le biais de la politique d’open data du gouvernement et notamment de la loi dite Lemaire, etc. Certains travaux sur la police se montrent plus critiques à l’égard de l’extension de la surveillance et du contrôle social exercés par la police[7].

D’importantes controverses sont ouvertes autour des effets possibles de ces différents dispositifs sur la gestion des litiges d’une part, sur le processus décisionnel des magistrats d’autre part, sur l’évolution des professions juridiques et du droit lui-même[8] enfin.

  • Ces dispositifs vont-ils contribuer à des formes de déjudiciarisation des litiges et conflits ?
  • Qu’en est-il de l’autonomie décisionnelle et du pouvoir d’appréciation des juges dès lors qu’ils auront à disposition des outils rendant visibles des normes qui jusque-là étaient moins objectivées ?[9] En quoi les pratiques des professionnels du droit et de la sécurité sont-elles modifiées par ces technologies ?[10] L’Etat de droit s’en trouve-t-il recomposé ; si oui, comment ?[11]
  • Comment la hiérarchie et l’autorité des juridictions et des décisions sera-t-elle consolidée ou modifiée dans un contexte juridique où certaines matières relèvent essentiellement du droit légiféré et d’autres d’un droit plus jurisprudentiel ?

Ces questions ne sont, bien entendu, pas exhaustives.

Les communications qui portent sur le système judiciaire, la police et le policing reposent sur des matériaux empiriques qualitatifs ou quantitatifs, qu’elles portent sur la France ou d’autres pays.

 

Organisation des deux panels

Les deux panels de 2 heures comprendront : une conférence-discussion en anglais autour de Cyrus Tata, suivie de la présentation et de la discussion de communications.

1er panel (9h- 11h)

Lien zoom : https://scpobx.zoom.us/j/98702265070

Séquence 1 – Conférence-discussion en anglais autour du prof. Cyrus Tata, « The Rise of the Robots and the Demise of Human Criminal Justice Professional Discretion? »

Cyrus Tata est professeur de droit à l’université Strathclyde, Glasgow, et directeur du Centre for Law, Crime and Justice. Il a travaillé au carrefour de la sociologie du droit et de l’analyse des politiques publiques sur les questions de sentencing studies, sentencing guidelines et aussi des dispositifs algorithmiques d’aide à la décision.

  • Intervention (30 minutes ; résumé ci-dessous).
  • Discussion (20 minutes)
  • Echanges avec la salle (15 minutes).

Séquence 2 – Communications

  • Présentation en anglais par leurs auteur.e.s de 3 communications (30 minutes)

Christophe Dubois et Lisa Pelssers (Université de Liège), « Le droit dans, par et avec la technologie : le cas de la digitalisation du Conseil d’Etat en Belgique »

Laurence Dumoulin (CNRS, Pacte, Sciences Po Grenoble), « La ‘justice prédictive’, traduction de l’open data dans la justice ? »

Isabelle Sayn (CNRS, Centre Max Weber), « Les méthodes algorithmiques d’aide à la décision :  quelles régulations pour quels usages ? »

  • Discussion (15 minutes)
  • Echanges avec la salle (10 minutes).

 

2ème panel (11h15 – 13h15)

Lien zoom : https://scpobx.zoom.us/j/96728106839

Séquence 3 – Communications

  • Présentation par leurs auteur.e.s de 3 communications (30 minutes)

Camille Girard-Chanudet (EHESS), « Petites mains et cerveaux multiples de l’intelligence artificielle. Une ethnographie du travail de conception d’un outil d’anonymisation automatique à la Cour de Cassation »

Morgane Hubert, « Les algorithmes prédictifs au service du juge : vers une déshumanisation de la justice pénale ? Regards critiques de juges d’instruction »

Anthony Amicelle, « Policing financier & Big data. La mise en algorithmes d’une politique internationale »

  • Discussion (15 minutes)
  • Echanges avec la salle (30 minutes, en élargissant la discussion aux présentations du 1er panel).

Séquence 4 – Echanges sur les travaux et orientations à venir du groupe Normes et justice (45 minutes)

 

Résumé de la conference assurée par Cyrus Tata:

What is the impact of technology on judicial and penal decision-making? To its proponents and its critics alike, technology is widely believed to reduce professional (‘human’) discretion and to diminish the status of criminal justice professionals. Drawing on illustrations from research, I aim to assess three questions:

  1. Are techno-rational instruments reducing penal discretion and professional status?
  2. Are penal decision-making technologies reducing concern with the whole individual to decontextualized collations of data?
  3. Are judges and other penal decision-makers becoming the consumers of information rather than their creators?

To answer this, I will report empirical evidence from two pieces of work. First, I will present the story of a 10 year research and development project in which I and colleagues worked with the senior judiciary to research, design and build a judicial ‘Sentencing Information System’. Second, I will report research into the use of AI risk technologies in the work by probation/social work professionals who assess and supervise those convicted of crime. These studies show a rather different story from that often told about technology squeezing out professional status and discretion. Concluding, I will suggest that the claim that technology is taking over discretionary (human) professional work is the product of a paradigm of presumed autonomous individualism.

 

[1] Cédric Villani, « Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne », Rapport de mission, 2017.

[2] Antoine Garapon et Jean Lassègue, Justice digitale. Révolution graphique et rupture anthropologique, Paris, PUF, 2017.

[3] Dossier Machines prédictives, Réseaux, 36, 2018.

[4] Dominique Cardon, À quoi rêvent les algorithmes : nos vies à l’heure des big data, Paris, Seuil, coll. La République des idées, 2015.

[5] Frank Pasquale, Black box society: les algorithmes secrets qui contrôlent l’économie et l’information, Limoges, FYP éditions, 2015 ; Sonia Desmoulin-Canselier et Daniel Le Métayer, Décider avec les algorithmes. Quelle place pour l’Homme, quelle place pour le droit ?, Paris : Dalloz, coll. « Les sens du droit », 2020, 275 p.

[6] Défini comme les activités de régulation et « opération de surveillance, couplée à la menace de sanctions en cas de déviance – soit immédiatement, soit en lançant des procédures pénales », Benjamin Bowling et al., The Politics of the Police, Oxford, Oxford University Press, 2019, p. 5.

[7] Sarah Brayne, “Big Data Surveillance: The Case of Policing”, American Sociological Review, 82 (5), 2017, p. 977-1008.

[8] Isabelle Sayn, « Connaître la production des juridictions ou prédire les décisions de justice ? », Les Cahiers de la Justice, 2, 2019, p. 229‑42.

[9] Neil Hutton, « From intuition to database », Theoretical Criminology, 17(1), 2012, p. 109-128 et « Visible and Invisible Sentencing », dans Hondeghem Annie, Rousseaux X., Schoenaers Frédéric (eds), Modernization of the criminal justice chain and the judicial system: New insights on trust, cooperation and human capital, Springer, 2016 ; Cyrus Tata, “Resolute Ambivalence: Why Judiciaries Do Not Institutionalize Their Decision Support Systems”, International Review of Law, Computers & Technology, 14 (3), 2000 et du même auteur : Sentencing: a Social Process. Rethinking Research and Policy, London, Palgrave MacMillan, 2020 ; Dossier « Le droit à l’épreuve des algorithmes », Droit et Société, 3, 2019.

[10] Bilel Benbouzid, « Quand prédire, c’est gérer. La police prédictive aux États-Unis », Réseaux, 211/5, 2018, p.221‑56 ; Sarah Brayne et Angèle Christin, « Technologies of Crime Prediction: The Reception of Algorithms in Policing and Criminal Courts ». Social Problems, 2020, 1‑17 ; Ferguson AG, The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement, New York: NYU Press, 2017 et du même auteur, « Predictive policing theory », In Lave T. R., Miller E. J. (Eds.), The Cambridge Handbook of Policing in the United States, Cambridge University Press, 2019.

[11] Antoinette Rouvroy, Bernard Stiegler, « Le régime de vérité numérique. De la gouvernance algorithmique à un nouvel État de droit », Socio, 4, 2015, p. 113-140 ; Aleš Završnik, « Algorithmic Justice: Algorithms and Big Data in Criminal Justice Settings », European Journal of Criminology, 2019, 1-20.