This post is also available in: English (anglais)

Le mercredi 15 mai 2019, la Commission du droit de l’Ontario (CDO) a organisé un symposium d’une demi-journée intitulé AI for Lawyers : A Primer on Artificial Intelligence in Ontario’s Legal System. Cet événement s’est déroulé à la faculté de droit Osgoode Hall et a été diffusé via webinaire, qui est archivé et peut être visionné (en anglais) ci-après.

 

Ce symposium se voulait un cours d’introduction à l’intelligence artificielle spécialement destiné aux membres de la profession juridique. En effet, les nouvelles technologies, notamment les algorithmes, la prise de décision automatisée et l’intelligence artificielle (IA) viennent chambouler les hypothèses et pratiques de longue date dans les domaines des droits de la personne, de l’application régulière de la loi et de l’accès à la justice.

 

Le symposium tentait de répondre aux questions suivantes : Dans quelle mesure les professionnels du système de justice comprennent-ils ces technologies? Quelles technologies sont déjà utilisées dans le système de justice? Quelles sont les répercussions juridiques de l’adoption de l’IA dans le système de justice? Comment le système de justice peut-il réglementer ces enjeux et devrait-il le faire?

 

Pour tenter de répondre à ces questions, la CDO s’est jointe à Element AI, un chef de file du développement en IA au Canada, et à la faculté de droit Osgoode Hall pour la tenue de cet événement.

 

Cette initiative s’inscrit dans le cadre du projet sur les droits numériques de la Commission, qui s’échelonne sur plusieurs années et est subventionné en partie par la Fondation du droit de l’Ontario. Les personnes qui désirent se renseigner davantage sur les questions touchant l’IA et le système de justice pénale peuvent consulter le lien sur la récente table ronde de la CDO sur les Algorithmes dans le système de justice criminel (en anglais).

 

CONFÉRENCIERS AYANT PARTICIPÉ AU SYMPOSIUM

 

  • Richard Zuroff, d’Element AI, a expliqué les rudiments de l’intelligence artificielle, de l’apprentissage machine et de l’apprentissage profond, ainsi que les défis techniques que pose la réglementation de l’IA.
  • Philip Dawson, responsable de l’élaboration des politiques publiques chez Element AI, a fourni un aperçu des approches réglementaires en matière d’IA au Canada et un peu partout dans le monde.
  • Carole Piovesan (INQ Data Law) a fait part de sa perspective à titre d’avocate dans le domaine de l’IA et de spécialiste de la gouvernance des données.
  • Ryan Fritsch, chargé des projets sur les droits numériques de la CDO, a animé un groupe de discussion avec :
    • Jill Presser (Presser Barristers) sur les enjeux liés à l’IA dans les affaires criminelles;
    • Patrick McEvenue, directeur de la politique numérique, sur l’utilisation des systèmes d’IA à Immigration, Réfugiés et Citoyenneté Canada;
    • Amy ter Haar, avocate et candidate au S.J.D., sur les approches d’autoréglementation de la technologie de la réglementation au moyen de la chaîne de blocs et des contrats intelligents.

 

DOCUMENTATION DU SYMPOSIUM

 

 

 

 

 

 

 

 

Cliquez ici pour le package du participant

PRÉSENTATIONS DU SYMPOSIUM

Présentation 1 : Un aperçu de l’IA
Richard Zuroff, Element AI (@element_ai)

Le symposium a débuté par un survol de l’intelligence artificielle (IA) présenté par Richard Zuroff d’Element AI. Richard a donné un aperçu de certains des mythes liés à l’IA, l’apprentissage machine et l’apprentissage profond afin de familiariser les juristes non initiés avec cette technologie. Définissant globalement l’IA comme étant des agents ou systèmes capables de percevoir l’environnement et de poser des gestes qui optimisent les chances d’atteindre un but précis, Richard a expliqué l’utilisation qui peut être faite de ces systèmes pour rehausser l’activité humaine en utilisant des données et des processus d’apprentissage machine qui permettent de combler les lacunes sur le plan de l’information et de la rétroaction au sein des organisations. En levant le voile entourant les réseaux de neurones profonds de l’IA et les processus d’apprentissage profond, on arrive à mieux comprendre les algorithmes et les données sur lesquelles repose la conception des systèmes d’IA, au-delà de l’image de simples « boîtes noires » contenant un code indéchiffrable. Un engagement direct et une participation active au processus de construction d’un algorithme peuvent créer une intersection entre l’automatisation, la prise de décision au moyen de l’IA et les valeurs humaines.

Mots clés : IA, apprentissage machine, apprentissage profond, réseaux de neurones profonds, « boîte noire », automatisation

Présentation 2 : Questions éthiques liées à l’IA –Approches réglementaires

Philip Dawson (@P__Dawson)

Cliquez ici pour la présentation des diapositives.

Philip Dawson, responsable de l’élaboration des politiques chez Element AI, a mis en lumière certaines des lignes directrices, stratégies nationales et normes internes de l’industrie qui guident les cadres et politiques éthiques sur l’IA. Les lacunes sur le plan de l’autoréglementation de l’IA étant un fait établi, on examine les nouvelles orientations liées à la réglementation et aux politiques dans ce domaine en s’appuyant sur les droits de la personne comme pierre angulaire de la conservation. On constate que les initiatives de protection des consommateurs deviennent un enjeu de plus en plus important à l’ère des droits numériques. On examine de nouveaux développements emballants en ce qui a trait au consentement numérique et à la protection des renseignements personnels, notamment le concept émergent des « fiducies de données ».

Mots clés : IA, autoréglementation, réglementation et politiques, protection des consommateurs, consentement éclairé, vie privée, fiducies de données

Présentation 3 : Questions éthiques liées à l’IA – Responsabilisation et gouvernance

Carole Piovesan (@CJPiovesan)

Cliquez ici pour la présentation des diapositives.

« Renseignez-vous, impliquez-vous et foncez » – voilà le conseil prodigué par Carole Piovesan, de INQ Data Law, dans le cadre de cette discussion sur la réglementation et la responsabilisation dans le secteur de l’IA. Carole a fait ressortir les nombreux secteurs où l’IA jouera un rôle dans le futur, ainsi que le besoin croissant de responsabilisation. Elle préconise une « nouvelle génération du droit » et une réévaluation des principes fondamentaux du droit dans le contexte de leur application à l’IA. Carole a fait une analyse des changements juridiques apportés par l’IA à court, à moyen et à long terme, ainsi que de la signification que prend la responsabilisation pour les systèmes d’IA en fonction de leurs capacités.

Mots clés : réglementation, responsabilisation, IA, principes du droit, changement juridique

Présentation 4 : Groupe de discussion – L’IA dans la pratique

Animateur : Ryan Fritsch, projet sur les droits numériques de la CDO

Jill Presser (@JillPresser) a exposé les défis émergents qui se posent de plus en plus dans le système de justice pénale, plus particulièrement lorsque des algorithmes sont en cause. Quatre questions importantes concernant des causes portant sur des algorithmes et l’IA ont été examinées : interrogatoire préalable, témoignage d’expert, connaissances technologiques et financement. S’appuyant sur le rapport de AI Now sur les litiges mettant en cause la prise de décision automatisée (en anglais), Jill Presser a expliqué les difficultés qui peuvent survenir lorsque l’on tente d’obtenir la divulgation complète de la preuve dans le cas d’un système d’IA faisant l’objet d’une protection exclusive ou protégé par le secret commercial, l’admissibilité de la preuve lorsque l’« expert » est un algorithme, la possibilité de parti pris dû à l’automatisation au sein du système judiciaire, ainsi que les ressources nécessaires pour contester les décisions prises par des mécanismes automatisés s’appuyant sur des algorithmes.

Mots clés : litiges mettant en cause des algorithmes, prise de décision automatisée, divulgation, parti pris de l’automatisation

 

Patrick McEvenue, directeur de la politique numérique à Immigration, Réfugiés et Citoyenneté Canada, a discuté du déploiement d’un système de prise de décision automatisée ayant pour but de rationaliser les demandes d’immigration au sein du ministère. Il a expliqué que l’IA était utilisée pour déterminer la satisfaction aux critères d’admissibilité dans le cas des demandes de résidence temporaire courantes. Il a insisté sur le fait que l’IA permettait de rehausser un processus décisionnel où les intervenants humains prenaient la décision finale. Il s’agit là d’un enjeu important qui a été récemment soulevé, notamment dans le rapport Bots at the Gate de Citizen Lab. Patrick McEvenue a exposé les principes directeurs que devraient suivre les innovateurs au moment de concevoir des systèmes de prise de décision automatisée pour garantir la transparence du système et la confiance du client dans ce système. Il a aussi donné un aperçu du guide Policy Playbook/Innovator’s Handbook d’IRCC, qui vise à orienter l’élaboration de politiques éthiques. Il a en outre discuté de l’importance de réduire au minimum les partis pris et les risques au moment de la conception des systèmes de soutien à la prise de décision automatisée.

Cliquez ici pour la présentation des diapositives.

Keywords: IRCC, immigration, prise de décision automatisée, IA, rehausser, guide d’élaboration des politiques, parti pris, soutien à la prise de décision automatisée

Amy ter Haar (@amyterhaar), avocate et candidate au S.D.J., a discuté des applications potentielles de l’IA dans le domaine du droit des contrats et la façon dont la technologie de réglementation émergente peut offrir une protection accrue aux consommateurs. S’appuyant sur sa connaissance des chaînes de blocs et des contrats intelligents, Amy ter Haar a expliqué les avantages émergents que présente le recours à la technologie pour régir la technologie. Grâce à la technologie de réglementation, ces avantages peuvent être extra-territoriaux (et non restreints par le territoire de compétence). Elle a également fait mention du modèle émergent d’apprentissage machine fédéré/segmenté et de la protection accrue des consommateurs et des renseignements personnels qu’offre la technologie de réglementation parallèlement aux avantages de la technologie de pointe.

Mots clés : technologie de réglementation, chaîne de blocs, contrat intelligent, apprentissage fédéré, apprentissage segmenté, apprentissage machine, protection des consommateurs, confidentialité des données