This post is also available in: English (anglais)

Aperçu du projet

Le projet pluriannuel de la Commission du droit de l’Ontario (CDO) sur Intelligence artificielle, la PDA et le système de justice réunit des responsables des politiques, des professionnels du droit, des technologues, des ONG et des membres de la collectivité pour discuter du développement, du déploiement et de la réglementation de l’intelligence artificielle (IA), de la prise de décision automatisée (PDA) et des algorithmes, ainsi que de l’impact de ces systèmes sur l’accès à la justice, les droits de la personne et l’application régulière de la loi.

Le catalyseur de ce projet est la croissance exceptionnelle du recours à ces technologies par les gouvernements et organismes publics partout dans le monde. Les systèmes d’IA et de PDA sont de plus en plus mis à profit pour prendre des décisions qui ont une incidence sur la liberté individuelle, les prestations gouvernementales, la conformité réglementaire et l’accès à d’importants services gouvernementaux. L’utilisation croissante de ces technologies suscite la controverse, alors que des questions sur les préjugés fondés sur la race, la « discrimination par les données », la prise de décision dans une « boîte noire » et la participation du public ont rapidement été posées et réitérées en regard de l’utilisation des systèmes d’IA et de PDA par les gouvernements. Ce sont là certaines des questions qui mettent en lumière des enjeux nouveaux et complexes de réforme du droit qui n’ont pas encore été abordés au Canada.

La CDO a mis sur pied un d’experts chargés de donner leur avis tout au long du projet.

Principaux volets du projet

Intelligence artificielle et prise de décision automatisée dans le système de la  justice pénale

Dans le monde entier, on utilise de plus en plus l’IA et les algorithmes pour appuyer les prises de décision de la police et des juges dans les procédures criminelles.

En octobre 2020, la CDO a publié Essor et déclin des algorithmes dans la justice pénale des États-Unis : quels enseignements pour le Canada? Elle y présente à la population des perspectives et des enseignements importants sur le recours à l’IA et à la prise de décision automatisée dans la justice pénale – notamment dans les procédures de libération conditionnelle et pour déterminer les peines. La CDO y étudie des notions comme la discrimination par les données, la « mesure de l’équité », la « notation », la responsabilité en matière d’algorithme, les méthodes exemplaires et la participation de la population. Pour consulter l’étude et en savoir plus, cliquer ici.

En juin 2021, la CDO a publié Intelligence Artificielle. Étude de cas : Les instruments de génotypage probabiliste dans la justice pénale canadienneLes deux avocates criminalistes qui en sont les auteures, Jill R. Presser et Kate Robertson, y étudient le rôle et l’incidence du génotypage probabiliste, qui fonctionne par IA, en vue d’obtenir des preuves qui seront utilisées dans des procédures criminelles. Elles se sont préoccupées d’étudier si et de quelle façon le génotypage probabiliste peut respecter les normes élevées d’application régulière de la loi, de responsabilité, de transparence que prévoit la Charte, et par le fait même, la justice pénale canadienne. Pour consulter l’étude et en savoir plus, cliquer ici.

L’IA et la prise de décision automatisée dans les systèmes de justice civile et administrative

Ce projet est l’équivalent pour le droit civil et administratif du projet de la CDO sur la justice pénale. Il examine le recours à l’IA, à la PDA et aux algorithmes pour les enquêtes réglementaires, la détermination des prestations gouvernementales et le soutien à la prise de décision dans les systèmes de justice civile et administrative.

La publication du document de travail de la CDO sur l’IA, la PDA et la prise de décision par les gouvernements est prévue au printemps 2021.

En savoir plus sur le projet sur l’IA et la prise de décision automatisée dans les systèmes de justice civile et administrative ici.

Réglementer le recours à l’IA et à la prise de décision automatisée par le gouvernement

Partout dans le monde, les gouvernements ont de plus en plus recours aux systèmes d’IA et de prise de décision automatisée (PDA) pour déterminer l’admissibilité aux prestations gouvernementales, prioriser les services publics, maintenir l’ordre de façon prédictive et appuyer les décisions concernant le cautionnement et la détermination de la peine.

Le rapport Réglementer l’intelligence artificielle – Enjeux et choix essentiels (an anglais) de la CDO constitue une analyse innovante sur la façon de réglementer les systèmes d’IA et de PDA utilisés par les gouvernements et autres institutions publiques. Il examine les principaux choix entourant cette question, cerne les lacunes en matière de réglementation et propose un cadre exhaustif pour faire en sorte que les gouvernements ayant recours aux systèmes d’IA et de PDA protègent les droits de la personne, assurent l’application régulière de la loi et favorisent la participation du public. En savoir plus sur le rapport de la CDO sur la réglementation de l’IA ici.

Le rapport Comparing European and Canadian AI Regulation (an anglais) de la CDO compare et met en opposition la réglementation sur l’IA au Canada et au sein de l’Union européenne. Il se penche sur les forces et faiblesses de chacune des approches et cerne les leçons à en tirer pour les décideurs politiques canadiens. Le rapport a été rédigé en partenariat avec la Chaire de recherche de l’Université sur l’intelligence artificielle responsable à l’échelle mondiale de la Section de droit civil de la Faculté de droit de l’Université d’Ottawa. Obtenir plus de détails ici.

Ateliers collaboratifs multidisciplinaires sur l’IA, la prise de décision automatisée et le droit

La CDO organise une série d’ateliers collaboratifs multidisciplinaires pour discuter de l’IA et de la prise de décision automatisée dans le contexte du droit. Les ateliers rassemblent un vaste éventail de parties prenantes dans le but d’acquérir collectivement des connaissances concernant les enjeux et défis sur les plans juridique, opérationnel, technologique et pratique associés au développement, au déploiement et à la réglementation de ces technologies. Voici certains des ateliers qui ont déjà été offerts :

  • En novembre et décembre 2020, la CDO a organisé en partenariat avec Services numériques de l’Ontario un atelier portant sur la divulgation, les biais, l’application régulière de la loi et la participation du public dans le contexte des systèmes d’IA et de PDA gouvernementaux. Le rapport de la CDO,, cerne des thèmes importants et des perspectives pratiques pour aider les gouvernements qui envisagent d’adopter cette technologie.
  • En décembre 2019, la CDO a été l’hôte d’un portant sur la prise de décision automatisée dans les systèmes de justice civile et administrative. Cette rencontre a réuni