Changes

=== Historique ===

=== Historique ===

Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève plusieurs défis susceptibles d’empêcher le gouvernement fédéral de satisfaire à l’engagement de garantir l’utilisation responsable de l’intelligence artificielle ou de limiter l’efficacité de l’instrument pour atteindre ses objectifs et donner les résultats escomptés. Ces défis mettent en évidence des lacunes qui limitent la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen identifie également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne se sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances pertinentes dans le paysage canadien et mondial de l’IA, tout en affinant progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité. Le premier examen visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===

=== Recommandations stratégiques de haut niveau ===

Dans le cadre du troisième examen, le SCT propose 12 recommandations stratégiques et des modifications connexes à la directive :

Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.

* Élargir la portée pour couvrir les services internes.

* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.

* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.

* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.

* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.

* Mettre en place des mesures favorisant le traçage, la protection, la conservation et la destruction appropriés des données utilisées et générées par un système.

* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.

* Élargir l’exigence relative aux essais pour couvrir les essais du biais des modèles.

* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.

* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration d’un système.

* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.

* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique (EIA)].

* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).

* Élargir l’EIA pour y inclure des questions sur les raisons poussant le ministère à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.

* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.

* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.

* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.

* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.

* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.

* Donner le mandat de diffuser les EIA avant la production d’un système.

* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===

=== Résultats escomptés ===

== Mobilisation des intervenants ==

== Mobilisation des intervenants ==

Le SCT collabore avec un large éventail d’intervenants au cours du troisième examen, notamment dans le milieu universitaire, la société civile, d’autres gouvernements et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations stratégiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

En septembre 2022, le SCT a lancé la deuxième phase de la mobilisation des intervenants. Cette phase comprendra la mobilisation des collectivités fédérales en matière de politiques en matière de données et d’IA; les agents du Parlement; les agents négociateurs; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est appuyé sur l’expertise de partenaires fédéraux et d’experts en la matière dans le milieu universitaire, la société civile et d’autres gouvernements. Le rapport sur ce que nous avons entendu, lié ci-dessous, fournit un résumé des résultats de cette phase.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.

 

Les intervenants contactés sont invités à examiner et à commenter la proposition de modification de la directive et de l’EIA, qui est présentée dans les documents de consultation ci-dessous.

=== Documents de consultation ===

=== Documents de consultation ===

Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]])<br>

Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]])<br>

Aperçu d’une page des recommandations stratégiques ([[File:DADM 3rd Review Summary (one-pager) (FR).pdf|left|thumb|Aperçu d’une page des recommandations stratégiques]])

Aperçu d’une page des recommandations stratégiques (à venir)

Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)<br>Compilation des modifications proposées et des justifications (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) ([[File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf|left|thumb|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]])<br>

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]