This post is also available in:  English (anglais)

Partout dans le monde, les gouvernements ont de plus en plus recours aux systèmes d’IA et de prise de décision automatisée (PDA) pour déterminer l’admissibilité aux prestations gouvernementales, prioriser les services publics, maintenir l’ordre de façon prédictive et appuyer les décisions concernant le cautionnement et la détermination de la peine. Cette technologie promet de nouveaux avantages tout en présentant des risques importants sur le plan des droits de la personne, de l’application régulière de la loi, de l’équité procédurale, de l’accès à la justice, ainsi que la fiabilité du système de justice et des décisions gouvernementales.

Le document de fond de la CDO, Réglementer l’intelligence artificielle – Enjeux et choix essentiels, constitue une analyse innovante sur la façon de réglementer les systèmes d’IA et de PDA utilisés par les gouvernements et autres institutions publiques.

Le rapport examine les principaux choix entourant cette question, cerne les lacunes en matière de réglementation et propose un cadre exhaustif pour faire en sorte que les gouvernements ayant recours aux systèmes d’IA et de PDA protègent les droits de la personne, assurent l’application régulière de la loi et favorisent la participation du public.

Il examine plusieurs questions importantes :

  • Quels enjeux la réglementation de l’IA et la PDA devrait-elle aborder?
  • Quels sont les avantages et limites de l’« IA éthique »?
  • Quel est le modèle (ou les modèles) permettant d’assurer au mieux la transparence, la responsabilité, la protection des droits de la personne, l’application régulière de la loi et la « fiabilité » au sein des gouvernements et des institutions connexes?
  • Existe-t-il des lacunes dans l’environnement réglementaire canadien?
  • La réglementation canadienne est-elle suffisamment robuste ou exhaustive pour faire face aux problèmes avérés que posent ces systèmes?

Le rapport de la CDO propose un cadre exhaustif pour aborder ces enjeux :

  • Exigences de base pour tous les systèmes d’IA et de PDA gouvernementaux, sans égard au risque.
  • Mesures de protection rigoureuses pour assurer la transparence de l’IA et de la PDA, y compris la divulgation de l’existence d’un tel système et d’un large éventail de données, d’outils et de processus utilisés par le système.
  • Registres d’IA obligatoires.
  • Évaluations détaillées et transparentes obligatoires de l’impact de l’IA ou des algorithmes.
  • Conformité explicite à la Charte et aux dispositions législatives appropriées en matière de droits de la personne.
  • Normes liées aux données.
  • Accès à des réparations utiles.
  • Exigences obligatoires en matière d’audit et d’évaluation.
  • Surveillance indépendante de chaque système et de l’utilisation de l’IA et de la PDA par le gouvernement en général.

Le rapport conclut qu’une réforme du droit proactive est nécessaire afin que la réglementation de l’IA et de la PDA optimise les avantages potentiels de ces systèmes tout en réduisant au minimum ses préjudices potentiels. Il met en lumière le très grand vide réglementaire qui existe dans ce domaine au Canada et qui fait en sorte que les utilisations de l’IA et de la PDA pouvant avoir le plus de conséquences – ce qui comprend les systèmes qui déterminent l’admissibilité aux prestations gouvernementales et qui priorisent les services, les systèmes de reconnaissance faciale et les systèmes utilisés dans le secteur de la justice pénale – sont peu ou pas réglementées au Canada.

On peut consulter un Résumé du rapport.

Documents du projet