Difference between revisions of "Troisième examen de la Directive sur la prise de décisions automatisée"

Latest revision as of 13:24, 25 April 2024

À propos du troisième examen

Historique

Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

Recommandations stratégiques de haut niveau

Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

Élargir la portée pour couvrir les services internes.
Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).
Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
Exiger la publication d’un examen par les pairs complet ou résumé avant la production du système.
Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
Exiger la diffusion d’une EIA avant la production d’un système, et assurer son examen selon un calendrier établi.

Résultats escomptés

La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; veiller à ce que les décisions automatisées ayant une incidence sur les droits ou les intérêts des personnes – y compris les fonctionnaires fédéraux – soient justes et inclusives; préciser les exigences; et appuyer les besoins opérationnels.

Mobilisation des intervenants

Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.

Documents de référence

Personne-ressource

Veuillez soumettre vos questions à ai-ia@tbs-sct.gc.ca

@@ Line 2: / Line 2: @@
 === Historique ===
-Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève plusieurs défis susceptibles d’empêcher le gouvernement fédéral de satisfaire à l’engagement de garantir l’utilisation responsable de l’intelligence artificielle ou de limiter l’efficacité de l’instrument pour atteindre ses objectifs et donner les résultats escomptés. Ces défis mettent en évidence des lacunes qui limitent la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen identifie également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.
+Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.
-Les examens périodiques ne se sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances pertinentes dans le paysage canadien et mondial de l’IA, tout en affinant progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité. Le premier examen visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.
+Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.
 === Recommandations stratégiques de haut niveau ===
-Dans le cadre du troisième examen, le SCT propose 12 recommandations stratégiques et des modifications connexes à la directive :
+Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :
-# Élargir la portée pour couvrir les services internes.
+* Élargir la portée pour couvrir les services internes.
-# Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
+* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
-# Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
+* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
-# Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
+* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
-# Mettre en place des mesures favorisant le traçage, la protection, la conservation et la destruction appropriés des données utilisées et générées par un système.
+* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
-# Élargir l’exigence relative aux essais de préproduction pour couvrir les essais de biais du modèle.
+* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
-# Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration d’un système.
+* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
-# Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).
+* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
-# Élargir l’EIA pour y inclure des questions sur les raisons poussant le ministère à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
+* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
-# Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
+* Exiger la publication d’un examen par les pairs complet ou résumé avant la production du système.
-# Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
+* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
-# Donner le mandat de diffuser les EIA avant la production d’un système.
+* Exiger la diffusion d’une EIA avant la production d’un système, et assurer son examen selon un calendrier établi.
 === Résultats escomptés ===
-La mise en œuvre des modifications proposées aiderait à garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; préciser les exigences; et appuyer les besoins opérationnels.
+La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; veiller à ce que les décisions automatisées ayant une incidence sur les droits ou les intérêts des personnes – y compris les fonctionnaires fédéraux – soient justes et inclusives; préciser les exigences; et appuyer les besoins opérationnels.
 == Mobilisation des intervenants ==
-Le SCT collabore avec un large éventail d’intervenants au cours du troisième examen, notamment dans le milieu universitaire, la société civile, d’autres gouvernements et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations stratégiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.
+Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.
-En septembre 2022, le SCT a lancé la deuxième phase de la mobilisation des intervenants. Cette phase comprendra la mobilisation des collectivités fédérales en matière de politiques en matière de données et d’IA; les agents du Parlement; les agents négociateurs; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est appuyé sur l’expertise de partenaires fédéraux et d’experts en la matière dans le milieu universitaire, la société civile et d’autres gouvernements. Le rapport sur ce que nous avons entendu, lié ci-dessous, fournit un résumé des résultats de cette phase.
-Les intervenants contactés sont invités à examiner et à commenter la proposition de modification de la directive et de l’EIA, qui est présentée dans les documents de consultation ci-dessous.
-=== Documents de consultation ===
-Questions clés, recommandations stratégiques et modifications provisoires ''[lien à ajouter]''
-Aperçu d’une page des recommandations stratégiques ''[lien à ajouter]''
+Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
 === Documents de référence ===
-Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) ''[lien à ajouter]''
-Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée ''[lien à ajouter]''
+* Hiver 2023 - [[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]
+* Automne 2022 - [[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
+* Été 2022 - [[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]
+* Printemps 2022 - [[:en:images/0/0d/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2._FR).pdf|Première phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
+* Printemps 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]
 === Personne-ressource ===
 Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]
+[[EN:Third Review of the Directive on Automated Decision-Making]]