This post is also available in: enEnglish (anglais)

L’expression « armes de destruction mathématique » désigne souvent l’intelligence artificielle (IA) et les algorithmes. De nombreux systèmes sont souvent qualifiés avec raison de « forme complexe de profilage racial ». Ces opinions sont largement répandues dans les nombreux débats actuels sur l’IA et les algorithmes.

Portant sur l’essor et le déclin des algorithmes dans la justice pénale des États-Unis, et sur les enseignements pour le Canada, il est le premier de trois documents de travail sur l’IA et les algorithmes dans la justice pénale canadienne. Il paraît en anglais, sous le titre The Rise and Fall of Algorithms in American Criminal Justice: Lessons for Canada. Son sommaire est disponible en français sous le titre Essor et déclin des algorithmes dans la justice pénale des États-Unis : quels enseignements pour le Canada? Sommaire

Le Document de travail constitue la première réflexion sérieuse sur l’utilisation possible et la réglementation de l’IA et des algorithmes dans la procédure pénale canadienne. On y définit les enjeux et les choix juridiques, stratégiques et pratiques essentiels auxquels les décideurs et les acteurs de la justice devraient réfléchir avant que l’adoption de ces techniques ne se répande au Canada.

Dans son deuxième document de travail, Regulating AI:  An International Survey (à paraître fin 2020), la CDO analyse les actions actuelles visant à réglementer l’IA et les algorithmes dans le processus décisionnel du secteur public.  Dans le troisième, AI, Algorithms and Government decision-making (à paraître fin 2020), elle analyse l’utilisation de l’IA et des algorithmes dans les processus décisionnels en droit civil, notamment administratif – déterminer par exemple les prestations sociales ou se prononcer dans les actions administratives ou les enquêtes publiques.   

La CDO étudie dans Essor et déclin des algorithmes dans la justice pénale des États-Unis : quels enseignements pour le Canada? le développement extraordinaire de l’évaluation algorithmique des risques avant procès aux États-Unis. Il s’agit des instruments algorithmiques ou d’IA qui aident les instances criminelles à prendre des décisions sur la détention préalable ou la mise en liberté sous caution. On utilise des instruments de même nature dans d’autres procédures pénales, notamment la détermination de la peine.

L’évaluation algorithmique des risques avant procès est un cas-type de l’utilisation de l’IA et des algorithmes dans la justice pénale. Dans la procédure de mise en liberté sous caution, on tranche et on concilie des questions concernant les libertés fondamentales et la sécurité publique, avec la nécessité de garantir des normes élevées pour l’application régulière de la loi, la responsabilité et la transparence.

L’utilisation de ces outils s’est rapidement répandue aux États-Unis, à tel point qu’ils sont probablement les outils algorithmiques les plus utilisés au monde pour prendre des décisions de justice pénale. Cette expansion a engendré une évaluation inédite et rapide de leur conception, de leur élaboration et de leur mise en place dans la justice pénale.

La CDO résume dans son Document de travail dix enseignements et observations majeurs sur l’IA et les algorithmes dans la justice pénale des États-Unis. Elle souligne les questions qui se poseront vraisemblablement au Canada si, ou plus probablement quand, les décideurs y envisagent de recourir à l’IA ou aux outils algorithmiques dans la justice pénale canadienne. Ce sont notamment les points suivants.

  • Préjugés et discrimination classiques par les données
  • « Mesure de l’équité »
  • Transparence des données
  • Exactitude, fiabilité et validité des données
  • « Notation des risques » et parti pris favorable à la machine
  • Distinction entre prévision, droit et politique
  • Méthodes exemplaires d’évaluation des risques
  • La population doit participer
  • Responsabilité en matière d’algorithme
  • Aller en justice a ses limites

La CDO s’attache particulièrement dans le Document de travail aux questions de racisme et de discrimination par les données. Le système de la justice en Ontario se préoccupe depuis longtemps du racisme à l’égard des Noirs et des Autochtones. Sans surprise, la CDO a relevé de nombreuses questions peu étudiées, peu réglementées et mal comprises, concernant les données, la discrimination, les algorithmes et le droit. Elle étudie aussi ces instruments dans l’optique connexe qui se recoupe de l’accès à la justice pour les groupes vulnérables et ceux dont les revenus modestes.

Le Document de travail se termine par une analyse des questions et des options de réforme du droit, notamment de réglementation, dans le but d’aider les décideurs et les parties prenantes du Canada à définir, à discuter et à élaborer les règles juridiques qui conviennent au système de la justice pénale canadienne.

Le Sommaire du document de travail est disponible en français.

Documents du projet