This post is also available in: English (anglais)
Aperçu du projet
Le projet pluriannuel de la Commission du droit de l’Ontario (CDO) sur Intelligence artificielle, la PDA et le système de justice réunit des responsables des politiques, des professionnels du droit, des technologues, des ONG et des membres de la collectivité pour discuter du développement, du déploiement et de la réglementation de l’intelligence artificielle (IA), de la prise de décision automatisée (PDA) et des algorithmes, ainsi que de l’impact de ces systèmes sur l’accès à la justice, les droits de la personne et l’application régulière de la loi.
Le catalyseur de ce projet est la croissance exceptionnelle du recours à ces technologies par les gouvernements et organismes publics partout dans le monde. Les systèmes d’IA et de PDA sont de plus en plus mis à profit pour prendre des décisions qui ont une incidence sur la liberté individuelle, les prestations gouvernementales, la conformité réglementaire et l’accès à d’importants services gouvernementaux. L’utilisation croissante de ces technologies suscite la controverse, alors que des questions sur les préjugés fondés sur la race, la « discrimination par les données », la prise de décision dans une « boîte noire » et la participation du public ont rapidement été posées et réitérées en regard de l’utilisation des systèmes d’IA et de PDA par les gouvernements. Ce sont là certaines des questions qui mettent en lumière des enjeux nouveaux et complexes de réforme du droit qui n’ont pas encore été abordés au Canada.
La CDO a mis sur pied un d’experts chargés de donner leur avis tout au long du projet.
Principaux volets du projet
Intelligence artificielle et prise de décision automatisée dans le système de la justice pénale
Dans le monde entier, on utilise de plus en plus l’IA et les algorithmes pour appuyer les prises de décision de la police et des juges dans les procédures criminelles.
En octobre 2020, la CDO a publié Essor et déclin des algorithmes dans la justice pénale des États-Unis : quels enseignements pour le Canada? Elle y présente à la population des perspectives et des enseignements importants sur le recours à l’IA et à la prise de décision automatisée dans la justice pénale – notamment dans les procédures de libération conditionnelle et pour déterminer les peines. La CDO y étudie des notions comme la discrimination par les données, la « mesure de l’équité », la « notation », la responsabilité en matière d’algorithme, les méthodes exemplaires et la participation de la population. Pour consulter l’étude et en savoir plus, cliquer ici.
En juin 2021, la CDO a publié Intelligence Artificielle. Étude de cas : Les instruments de génotypage probabiliste dans la justice pénale canadienne. Les deux avocates criminalistes qui en sont les auteures, Jill R. Presser et Kate Robertson, y étudient le rôle et l’incidence du génotypage probabiliste, qui fonctionne par IA, en vue d’obtenir des preuves qui seront utilisées dans des procédures criminelles. Elles se sont préoccupées d’étudier si et de quelle façon le génotypage probabiliste peut respecter les normes élevées d’application régulière de la loi, de responsabilité, de transparence que prévoit la Charte, et par le fait même, la justice pénale canadienne. Pour consulter l’étude et en savoir plus, cliquer ici.
L’IA et la prise de décision automatisée dans les systèmes de justice civile et administrative
Ce projet est l’équivalent pour le droit civil et administratif du projet de la CDO sur la justice pénale. Il examine le recours à l’IA, à la PDA et aux algorithmes pour les enquêtes réglementaires, la détermination des prestations gouvernementales et le soutien à la prise de décision dans les systèmes de justice civile et administrative.
La publication du document de travail de la CDO sur l’IA, la PDA et la prise de décision par les gouvernements est prévue au printemps 2021.
En savoir plus sur le projet sur l’IA et la prise de décision automatisée dans les systèmes de justice civile et administrative ici.
Réglementer le recours à l’IA et à la prise de décision automatisée par le gouvernement
Partout dans le monde, les gouvernements ont de plus en plus recours aux systèmes d’IA et de prise de décision automatisée (PDA) pour déterminer l’admissibilité aux prestations gouvernementales, prioriser les services publics, maintenir l’ordre de façon prédictive et appuyer les décisions concernant le cautionnement et la détermination de la peine.
Le rapport Réglementer l’intelligence artificielle – Enjeux et choix essentiels (an anglais) de la CDO constitue une analyse innovante sur la façon de réglementer les systèmes d’IA et de PDA utilisés par les gouvernements et autres institutions publiques. Il examine les principaux choix entourant cette question, cerne les lacunes en matière de réglementation et propose un cadre exhaustif pour faire en sorte que les gouvernements ayant recours aux systèmes d’IA et de PDA protègent les droits de la personne, assurent l’application régulière de la loi et favorisent la participation du public. En savoir plus sur le rapport de la CDO sur la réglementation de l’IA ici.
Le rapport Comparing European and Canadian AI Regulation (an anglais) de la CDO compare et met en opposition la réglementation sur l’IA au Canada et au sein de l’Union européenne. Il se penche sur les forces et faiblesses de chacune des approches et cerne les leçons à en tirer pour les décideurs politiques canadiens. Le rapport a été rédigé en partenariat avec la Chaire de recherche de l’Université sur l’intelligence artificielle responsable à l’échelle mondiale de la Section de droit civil de la Faculté de droit de l’Université d’Ottawa. Obtenir plus de détails ici.
Ateliers collaboratifs multidisciplinaires sur l’IA, la prise de décision automatisée et le droit
La CDO organise une série d’ateliers collaboratifs multidisciplinaires pour discuter de l’IA et de la prise de décision automatisée dans le contexte du droit. Les ateliers rassemblent un vaste éventail de parties prenantes dans le but d’acquérir collectivement des connaissances concernant les enjeux et défis sur les plans juridique, opérationnel, technologique et pratique associés au développement, au déploiement et à la réglementation de ces technologies. Voici certains des ateliers qui ont déjà été offerts :
- En novembre et décembre 2020, la CDO a organisé en partenariat avec Services numériques de l’Ontario un atelier portant sur la divulgation, les biais, l’application régulière de la loi et la participation du public dans le contexte des systèmes d’IA et de PDA gouvernementaux. Le rapport de la CDO,, cerne des thèmes importants et des perspectives pratiques pour aider les gouvernements qui envisagent d’adopter cette technologie.
- En décembre 2019, la CDO a été l’hôte d’un portant sur la prise de décision automatisée dans les systèmes de justice civile et administrative. Cette rencontre a réuni plus de 30 responsables des politiques, avocats, juristes, technologues, universitaires et organisateurs communautaires qui ont fait part de leurs expériences, discuté de divers enjeux et examiné les options de réforme du droit.
- En mars 2019, la CDO, The Citizen Lab, l’International Human Rights Program de la faculté de droit de l’Université de Toronto et la Criminal Lawyers Association se sont associés pour organiser le premier forum multidisciplinaire canadien sur le maintien de l’ordre prédictif, le profilage des citoyens ainsi que le cautionnement et la détermination de la peine automatisés.
Le projet de la CDO sur l’IA, la PDA et le système de justice est financé en partie par une subvention de recherche sur la justice et la technologie de la Fondation du droit de l’Ontario.
Autres initiatives de la CDO concernant les droits numériques
Intelligence artificielle et droits de la personne
De 10 h à 12 h (midi), la CDO a animé au Centre Helliwell de la faculté de droit Osgoode Hall une table ronde sur le thème Artificial Intelligence and Human Rights at YorkU : A Panel Discussion on Impacts and Opportunities (Intelligence artificielle et droits de la personne à l’Université York : Table ronde sur les impacts et possibilités).
Modérée par Ryan Fritsch, avocat à la Commission du droit de l’Ontario, la table ronde accueillait notamment :
- Insiya Essajee, avocate, Commission ontarienne des droits de la personne
- Le professeur Trevor Farrow, faculté de droit Osgoode Hall
- La professeure Regina Rini, faculté de philosophie, Université York
- La professeure Ruth Urner, faculté de génie et de science informatique, École de génie Lassonde
IA, accès à la justice et aide juridique
IA pour les avocats : Introduction à l’IA dans le système de justice de l’Ontario
Droits numériques : Rencontre pour la détermination des enjeux et la planification
Table ronde sur les droits numériques et la société numérique organisée par la CDO et Mozilla
Un rapport sur les constats issus de cet événement est accessible ici. Voici quelques-uns des thèmes abordés :
- Transparence et responsabilité quant à l’intelligence artificielle et aux algorithmes qui filtrent automatiquement les contenus, établissent le prix des biens, déterminent l’admissibilité à une mise en liberté sous caution et font des recommandations d’ordre médical
- Questions sur la façon dont les droits des consommateurs dans l’espace numérique peuvent assurer un meilleur équilibre concernant l’option d’accepter ou de laisser tomber
Modernisation des droits relatifs à l’emploi et au travail au profit de la proportion de plus en plus élevée d’Ontariennes et d’Ontariens qui occupent des emplois occasionnels et précaires dans l’« économie à la demande ».
Travaux antérieurs dans le domaine des droits numériques
Les initiatives précédentes de la CDO concernant les droits numériques comprennent l’organisation d’une conférence internationale sur le droit de la diffamation à l’époque de l’Internet, une présentation en table ronde lors de la conférence mondiale RightsCon de 2018 et l’établissement d’un partenariat avec Aide juridique Ontario pour organiser un symposium sur les données ouvertes et le gouvernement ouvert.
- Novembre 2018 : La CDO organise une table ronde pour demander l’avis d’une douzaine d’experts sur la meilleure façon d’établir la portée et l’ordre d’une série de projets de réforme du droit numérique portant sur la prise de décision automatisée, la protection des consommateurs et le travail précaire.
- Mai 2018 : La CDO s’associe à la Mozilla Foundation pour organiser une table ronde sur les droits numériques et la société numérique qui a réuni une douzaine de responsables des politiques, de juristes, d’avocats, de technologues, d’universitaires et d’organisateurs communautaires clés pour discuter d’un programme de droits numériques pour l’Ontario et d’autres territoires de compétence.
- Mai 2018 : La CDO organise une conférence internationale sur la diffamation à l’époque de l’Internet, citée par un participant comme l’une des analyses les plus exhaustives d’un cadre du droit de la diffamation à ce jour dans le monde entier.
- Mai 2018 : La CDO organise une présentation en table ronde à RightsCon, la plus importante conférence sur les droits numériques et la société numérique au Canada, intitulée Reforming Intermediary Responsibility: Testing a Human Rights Centred Framework Beyond the Liability and Immunity Divide (Réformer la responsabilité des intermédiaires : Mettre à l’essai un cadre axé sur les droits de la personne qui va au-delà de la dichotomie responsabilité-immunité).
- Septembre 2017 : Le projet sur les recours collectifs de la CDO a obtenu un financement du ministère de la Justice pour créer un répertoire public de données ouvertes en ligne contenant les cas de recours collectifs et des renseignements connexes. Ce répertoire, le premier de ce type au Canada, assurera un accès continu à la recherche sur la justice et la réforme du droit dans l’ensemble du pays.
- Avril 2016 : La CDO s’associe à Aide juridique Ontario pour organiser un symposium sur les données ouvertes et le gouvernement ouvert, qui s’est penché sur les questions concrètes de la transparence, de la responsabilité et des « mégadonnées » pour le gouvernement, les cours et les tribunaux en Ontario.