Vers un cadre d’IA responsable pour la conception de systèmes décisionnels automatisés au MPO: une étude de cas de la détection et de l’atténuation des biais

Sommaire

Les systèmes décisionnels automatisés (SDA) sont des systèmes informatiques qui automatisent, ou aident à automatiser, une partie ou la totalité d’un processus de décisionnel de nature administrative. Actuellement, le gouvernement du Canada utilise des systèmes décisionnels automatisés commandés par des algorithmes d’apprentissage machine pour améliorer la prestation des services. L’utilisation de ces systèmes peut présenter des avantages et des risques pour les institutions fédérales, notamment Pêches et Océans Canada (MPO). Il faut veiller à ce que les systèmes décisionnels automatisés soient déployés de manière à réduire les risques pour les Canadiens et les institutions fédérales, et à ce que les décisions soient plus efficaces, exactes, cohérentes et interprétables.

Pour l’exercice financier (2021-2022), le Bureau du dirigeant principal des données (BDPD) et la Gestion de l’information et des services techniques (GIST) ont coparrainé un projet pilote d’intelligence artificielle (IA) afin de déterminer dans quelle mesure l’IA, associée à d’autres techniques d’analyse des données, peut être utilisée pour obtenir des renseignements, automatiser des tâches et optimiser les résultats pour différents domaines prioritaires et objectifs opérationnels au MPO. Le projet a été financé par le Fonds des résultats 2020-2021 et a été élaboré en partenariat avec les programmes et les secteurs d’activité du MPO. Les résultats comprennent le développement de trois preuves de concept :

• Des modèles prédictifs pour la détection du comportement des navires en matière de pêche, afin de lutter contre le non-respect des règlements de pêche.
• Un modèle prédictif pour la détermination et la classification des appels de la baleine noire de l’Atlantique Nord, en voie de disparition, afin de réduire au minimum les collisions entre les navires et les baleines en voie de disparition.
• Un modèle prédictif pour le regroupement des données océaniques, pour faire progresser les sciences océaniques.

Soutenus par le Fonds des résultats (2021-2022), le BDPD et GIST réalisent un prototype des systèmes décisionnels automatisés, sur la base des résultats du projet pilote d’IA. L’effort comprend la définition d’un processus interne pour détecter et atténuer les biais, lesquels sont un risque inhérent aux systèmes décisionnels automatisés basés sur l’apprentissage machine. Une étude de cas est conçue pour appliquer ce processus afin d’évaluer et d’atténuer les biais dans le modèle prédictif de détection du comportement de pêche des navires.

Finalement, à long terme, l’objectif sera de développer un cadre complet d’IA responsable pour assurer une utilisation responsable de l’IA au sein du MPO et assurer la conformité avec la Directive du Conseil du Trésor sur la prise de décisions automatisée.