This post is also available in: enEnglish (anglais)

Résumé du projet

Les priorités stratégiques pour 2017-2020 de la Commission du droit de l’Ontario (CDO) donnent mandat à l’organisme d’accorder la priorité aux questions de réforme du droit touchant la technologie. L’influence de la technologie est omniprésente; elle s’étend à de nouveaux domaines des secteurs privé et public, façonne nos vies plus que jamais et soulève de sérieuses questions quant à l’accès à la justice. Aujourd’hui, des algorithmes informatiques influent sur la détermination des peines et les conditions de mise en liberté sous caution, des plates-formes privées d’« économie à la demande » décident qui peut travailler et des capteurs sont intégrés aux espaces publics des « villes intelligentes ». À partir de tels exemples, entre autres, la CDO a commencé à cerner les domaines précis où une analyse juridique sérieuse poussée doit manifestement être menée dans le contexte ontarien.

Quels types de « droits numériques » apparaissent?

Il n’existe pas de définition unique des « droits numériques ». Les droits numériques touchent des sujets aussi diversifiés que l’inclusion et l’accès numériques, la déclaration des droits numériques, les droits dans une ville intelligente, l’« application régulière » des droits numériques, la réglementation des bacs à sable, les scores sociaux et les algorithmes des boîtes noires, la démocratie numérique, les nouveaux cadres pour le consentement éclairé en ligne et bien d’autres. Il s’agit là de questions importantes, actuelles et controversées. Notre objectif est de mieux comprendre ces questions et d’aider à façonner un programme de droits numériques pour l’Ontario et ailleurs. À l’instar de tous les projets de la CDO, nous effectuons de la recherche et réalisons des consultations publiques afin de mieux définir et recommander des réformes du droit qui sont concrètes, précises et en accord avec l’accès à la justice et les droits à l’égalité des Ontariens. Pour ce faire, nous reconnaissons trois principes importants comme points de départ.

  • La technologie a créé une véritable nouvelle frontière dans l’accès à la justice. Cela ne veut pas dire que la question de l’accès à la justice a été réglée de quelque manière – tant s’en faut. Mais la technologie soulève de nouvelles questions essentielles, qui tiennent compte de l’application régulière fondamentale des droits. Comment savoir si un algorithme a servi à choisir une demande d’emploi, à déterminer l’admissibilité à des avantages sociaux ou à statuer sur une demande? Un algorithme peut-il expliquer la décision rendue, et devrait-il être tenu de le faire? Comment pouvez-vous contre-interroger un décideur algorithmique?
  • Les intervenants de la technologie sont différents. Les plates-formes et les produits technologiques influencent les comportements, filtrent les renseignements, automatisent les activités et fixent les conditions d’utilisation. Ils peuvent, de façon unique, activement incorporer l’accès à la justice dans la vie de tous les jours là où cela importe le plus aux gens, que ce soit dans la sphère privée ou dans la sphère publique. Les intervenants de la technologie peuvent ainsi avoir un rôle à jouer très différent et beaucoup plus actif dans le cadre des initiatives de réforme du droit.
  • Les nouveaux droits numériques devront innover à partir des principes juridiques existants. Il est absolument nécessaire que l’imagination juridique rattache les nouveaux droits numériques à l’éventail d’approches juridiques potentielles. Par exemple, que se passerait-il si la loi sur la protection des renseignements personnels visait les droits collectifs des consommateurs plutôt que le consentement individuel? Est-ce que les protections contre la discrimination assurées en vertu du Code des droits de la personne de l’Ontario pourraient être incorporées directement dans un algorithme, ce qui assurerait la conformité structurelle?

 

Ce que nous avons accompli jusqu’ici

La CDO a déjà travaillé sur plusieurs projets de réforme du droit touchant la technologie.

  • Le directeur exécutif, Nye Thomas, et avocat, Ryan Fritsch, ont fait une présentation devant le Groupe d’aide juridique internationale à Ottawa. Il s’agit d’une conférence majeure réunissant des programmes d’aide juridique du monde entier pour débattre de questions d’intérêt commun. Le titre de la présentation était « Intégration de l’IA et de la prise de décision automatisée: impact sur l’accès à la justice et l’aide juridique ». Cette présentation reprenait les leçons de notre événement criminel du 22 mars et donnait des suggestions sur la manière dont les régimes d’aide juridique devraient répondre au défi de l’automatisation. prise de décision dans le système judiciaire. Pour lire l’article, cliquez ici (veuillez noter en anglais seulement).
  • Le mercredi 15 mai 2019, la Commission du droit de l’Ontario (CDO) a organisé un symposium d’une demi-journée sur l’intelligence artificielle destinée aux avocats: introduction à l’intelligence artificielle dans le système juridique de l’Ontario. L’événement a eu lieu en personne à la faculté de droit d’Osgoode Hall et a été diffusé via un webinaire. L’événement a été conçu sous le numéro AI 101 – destiné aux avocats. Les nouvelles technologies, notamment les algorithmes, la prise de décision automatisée et l’intelligence artificielle (IA), vont remettre en question nos hypothèses et pratiques de longue date en matière de droits de l’homme, de respect de la légalité et d’accès à la justice.
  • Mars 2019: La CDO, The Citizen Lab, l’IHRP et la Criminal Lawyers ‘Association se sont associés pour organiser le premier forum multidisciplinaire canadien sur les algorithmes, l’intelligence artificielle et la prise de décision automatisée dans le système de justice pénale. Les sujets abordés incluent le maintien de l’ordre prédictif et l’utilisation de la prise de décision automatisée dans le cautionnement et la détermination de la peine. Pour lire les documents de cet événement, cliquez ici.
  • Novembre 2018 : La CDO a organisé une table ronde pour demander l’avis d’une douzaine d’experts en la matière sur la meilleure façon d’établir la portée et l’ordre d’une série de projets de réforme du droit numérique portant sur la prise de décision automatisée, la protection des consommateurs et le travail précaire.
  • Mai 2018 : La CDO s’associe à la Mozilla Foundation pour organiser une table ronde sur les droits numériques et la société numérique qui a réuni une douzaine de responsables des politiques, de juristes, d’avocats, de technologues, d’universitaires et d’organisateurs communautaires clés pour discuter d’un programme de droits numériques pour l’Ontario et ailleurs.
  • Mai 2018 : La CDO tient une conférence internationale sur la diffamation à l’époque de l’Internet, citée par un participant comme l’une des analyses les plus exhaustives d’un cadre du droit de la diffamation à ce jour dans le monde entier.
  • Mai 2018 : La CDO organise une présentation de groupe d’experts à l’occasion de la plus importante conférence sur les droits numériques et la société numérique du Canada, RightsCon, intitulée Reforming Intermediary Responsibility: Testing a Human Rights Centred Framework Beyond the Liability and Immunity Divide.
  • Septembre 2017 : Le projet sur les recours collectifs de la CDO a obtenu un financement du ministère de la Justice pour créer un répertoire public de données ouvertes en ligne contenant les cas de recours collectifs et des renseignements connexes. Ce répertoire est le premier de ce type au Canada et il assurera un accès continu à la recherche sur la justice et la réforme du droit dans l’ensemble du pays.
  • Avril 2016 : La CDO s’associe à Aide juridique Ontario pour organiser un symposium sur les données ouvertes et le gouvernement ouvert, qui s’est penché sur les questions concrètes de la transparence, de la responsabilité et des « mégadonnées » pour le gouvernement, les cours et les tribunaux en Ontario.

Prochaines étapes

La Commission du droit de l’Ontario et Element AI organiseront un événement sur l’intelligence artificielle et les nouveaux problèmes juridiques, réglementaires et éthiques qui l’entourent. Cet événement aura lieu le 15 mai 2019. Il comprendra une explication de la technologie de l’IA et abordera des problèmes cruciaux et croissants concernant l’impact des algorithmes, de la prise de décision automatisée et de l’intelligence artificielle sur le système juridique en Ontario. Il s’agit du deuxième événement de la série d’événements sur les droits numériques de la CDO et du suivi de la manifestation de la CDO sur la justice pénale algorithmique.

Afin de soutenir un programme sur les droits numériques en Ontario, la CDO est intéressée à développer une série de projets de recherche et de réforme du droit à partir de 2019. La CDO prévoit de publier un plan de projet au début de 2019. La CDO souhaite également identifier des experts et des partenaires potentiels.

Documents du projet