This post is also available in: enEnglish (anglais)

Aperçu du projet

Le projet pluriannuel de la Commission du droit de l’Ontario (CDO) sur Intelligence artificielle, la PDA et le système de justice réunit des responsables des politiques, des professionnels du droit, des technologues, des ONG et des membres de la collectivité pour discuter du développement, du déploiement et de la réglementation de l’intelligence artificielle (IA), de la prise de décision automatisée (PDA) et des algorithmes, ainsi que de l’impact de ces systèmes sur l’accès à la justice, les droits de la personne et l’application régulière de la loi.

Le catalyseur de ce projet est la croissance exceptionnelle du recours à ces technologies par les gouvernements et organismes publics partout dans le monde. Les systèmes d’IA et de PDA sont de plus en plus mis à profit pour prendre des décisions qui ont une incidence sur la liberté individuelle, les prestations gouvernementales, la conformité réglementaire et l’accès à d’importants services gouvernementaux. L’utilisation croissante de ces technologies suscite la controverse, alors que des questions sur les préjugés fondés sur la race, la « discrimination par les données », la prise de décision dans une « boîte noire » et la participation du public ont rapidement été posées et réitérées en regard de l’utilisation des systèmes d’IA et de PDA par les gouvernements. Ce sont là certaines des questions qui mettent en lumière des enjeux nouveaux et complexes de réforme du droit qui n’ont pas encore été abordés au Canada.

La CDO a mis sur pied un d’experts chargés de donner leur avis tout au long du projet.

Principaux volets du projet

Intelligence artificielle et prise de décision automatisée dans le système de la  justice pénale

Dans le monde entier, on utilise de plus en plus l’IA et les algorithmes pour appuyer les prises de décision de la police et des juges dans les procédures criminelles.

En octobre 2020, la CDO a publié Essor et déclin des algorithmes dans la justice pénale des États-Unis : quels enseignements pour le Canada? Elle y présente à la population des perspectives et des enseignements importants sur le recours à l’IA et à la prise de décision automatisée dans la justice pénale – notamment dans les procédures de libération conditionnelle et pour déterminer les peines. La CDO y étudie des notions comme la discrimination par les données, la « mesure de l’équité », la « notation », la responsabilité en matière d’algorithme, les méthodes exemplaires et la participation de la population. Pour consulter l’étude et en savoir plus, cliquer ici.

En juin 2021, la CDO a publié Intelligence Artificielle. Étude de cas : Les instruments de génotypage probabiliste dans la justice pénale canadienneLes deux avocates criminalistes qui en sont les auteures, Jill R. Presser et Kate Robertson, y étudient le rôle et l’incidence du génotypage probabiliste, qui fonctionne par IA, en vue d’obtenir des preuves qui seront utilisées dans des procédures criminelles. Elles se sont préoccupées d’étudier si et de quelle façon le génotypage probabiliste peut respecter les normes élevées d’application régulière de la loi, de responsabilité, de transparence que prévoit la Charte, et par le fait même, la justice pénale canadienne. Pour consulter l’étude et en savoir plus, cliquer ici.

L’IA et la prise de décision automatisée dans les systèmes de justice civile et administrative

Ce projet est l’équivalent pour le droit civil et administratif du projet de la CDO sur la justice pénale. Il examine le recours à l’IA, à la PDA et aux algorithmes pour les enquêtes réglementaires, la détermination des prestations gouvernementales et le soutien à la prise de décision dans les systèmes de justice civile et administrative.

La publication du document de travail de la CDO sur l’IA, la PDA et la prise de décision par les gouvernements est prévue au printemps 2021.

En savoir plus sur le projet sur l’IA et la prise de décision automatisée dans les systèmes de justice civile et administrative ici.

Réglementer le recours à l’IA et à la prise de décision automatisée par le gouvernement

Partout dans le monde, les gouvernements ont de plus en plus recours aux systèmes d’IA et de prise de décision automatisée (PDA) pour déterminer l’admissibilité aux prestations gouvernementales, prioriser les services publics, maintenir l’ordre de façon prédictive et appuyer les décisions concernant le cautionnement et la détermination de la peine.

Le rapport Réglementer l’intelligence artificielle – Enjeux et choix essentiels de la CDO constitue une analyse innovante sur la façon de réglementer les systèmes d’IA et de PDA utilisés par les gouvernements et autres institutions publiques. Il examine les principaux choix entourant cette question, cerne les lacunes en matière de réglementation et propose un cadre exhaustif pour faire en sorte que les gouvernements ayant recours aux systèmes d’IA et de PDA protègent les droits de la personne, assurent l’application régulière de la loi et favorisent la participation du public.

En savoir plus sur la réglementation du recours à l’IA et à la prise de décision automatisée par le gouvernement ici.

En outre, la CDO prépare un rapport en collaboration avec la Chaire de recherche sur l’intelligence artificielle responsable à l’échelle mondiale de la Faculté de droit – Section de droit civil de l’Université d’Ottawa, dirigée par la professeure Céline Castets-Renard. Le rapport fera une comparaison de la réglementation de l’IA au Canada et au sein de l’Union européenne et en dégagera les différences.

Ateliers collaboratifs multidisciplinaires sur l’IA, la prise de décision automatisée et le droit

La CDO organise une série d’ateliers collaboratifs multidisciplinaires pour discuter de l’IA et de la prise de décision automatisée dans le contexte du droit. Les ateliers rassemblent un vaste éventail de parties prenantes dans le but d’acquérir collectivement des connaissances concernant les enjeux et défis sur les plans juridique, opérationnel, technologique et pratique associés au développement, au déploiement et à la réglementation de ces technologies. Voici certains des ateliers qui ont déjà été offerts :

  • En novembre et décembre 2020, la CDO a organisé en partenariat avec Services numériques de l’Ontario un atelier portant sur la divulgation, les biais, l’application régulière de la loi et la participation du public dans le contexte des systèmes d’IA et de PDA gouvernementaux. Le rapport de la CDO,, cerne des thèmes importants et des perspectives pratiques pour aider les gouvernements qui envisagent d’adopter cette technologie.
  • En décembre 2019, la CDO a été l’hôte d’un portant sur la prise de décision automatisée dans les systèmes de justice civile et administrative. Cette rencontre a réuni plus de 30 responsables des politiques, avocats, juristes, technologues, universitaires et organisateurs communautaires qui ont fait part de leurs expériences, discuté de divers enjeux et examiné les options de réforme du droit.
  • En mars 2019, la CDO, The Citizen Lab, l’International Human Rights Program de la faculté de droit de l’Université de Toronto et la Criminal Lawyers Association se sont associés pour organiser le premier forum multidisciplinaire canadien sur le maintien de l’ordre prédictif, le profilage des citoyens ainsi que le cautionnement et la détermination de la peine automatisés.

Le projet de la CDO sur l’IA, la PDA et le système de justice est financé en partie par une subvention de recherche sur la justice et la technologie de la Fondation du droit de l’Ontario.

Autres initiatives de la CDO concernant les droits numériques

Intelligence artificielle et droits de la personne

Le mardi 4 février 2020, la CDO a participé à la Journée annuelle de l’inclusion de l’Université York, un événement sur le thème de l’appartenance lors duquel on a exploré des moyens d’accroître ce sentiment au sein de l’université. Cette journée est le fruit d’un partenariat entre la CDO, le Centre for Human Rights, Equity and Inclusion de l’Université York et le President’s Advisory Committee on Human Rights Sub-Committees (comité consultatif du président pour les sous-comité