Difference between revisions of "Troisième examen de la Directive sur la prise de décisions automatisée"
m |
|||
| Line 2: | Line 2: | ||
=== Historique === | === Historique === | ||
| − | Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la | + | Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux. |
| − | Les examens périodiques ne | + | Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive. |
=== Recommandations stratégiques de haut niveau === | === Recommandations stratégiques de haut niveau === | ||
| − | Dans le cadre du troisième examen, le SCT propose 12 recommandations | + | Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive : |
* Élargir la portée pour couvrir les services internes. | * Élargir la portée pour couvrir les services internes. | ||
| Line 13: | Line 13: | ||
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle. | * Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle. | ||
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne. | * Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne. | ||
| − | * Mettre en place des mesures favorisant le traçage, la protection, | + | * Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système. |
| − | * Élargir l’exigence relative aux essais pour couvrir les | + | * Élargir l’exigence relative aux essais des biais pour couvrir les modèles. |
| − | * Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration d’un système. | + | * Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système. |
| − | * Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à | + | * Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA). |
| − | * Élargir l’EIA pour y inclure des questions sur les raisons poussant | + | * Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap. |
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système. | * Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système. | ||
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor. | * Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor. | ||
| − | * Donner le mandat de diffuser les EIA avant la production d’un système. | + | * Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière. |
=== Résultats escomptés === | === Résultats escomptés === | ||
| Line 26: | Line 26: | ||
== Mobilisation des intervenants == | == Mobilisation des intervenants == | ||
| − | Le SCT | + | Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs. |
| − | + | Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats. | |
| − | |||
| − | |||
=== Documents de consultation === | === Documents de consultation === | ||
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]])<br> | Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]])<br> | ||
| − | Aperçu d’une page des recommandations stratégiques ( | + | Aperçu d’une page des recommandations stratégiques (à venir) |
| + | === Documents de référence === | ||
| + | Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir) | ||
| − | + | Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)<br>Compilation des modifications proposées et des justifications (à venir) | |
| − | Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) ( | ||
[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)] | [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)] | ||
Revision as of 15:17, 18 January 2023
À propos du troisième examen
Historique
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.
Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.
Recommandations stratégiques de haut niveau
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :
- Élargir la portée pour couvrir les services internes.
- Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
- Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
- Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
- Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
- Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
- Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
- Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).
- Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
- Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
- Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
- Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.
Résultats escomptés
La mise en œuvre des modifications proposées aiderait à garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; préciser les exigences; et appuyer les besoins opérationnels.
Mobilisation des intervenants
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.
Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
Documents de consultation
Questions clés, recommandations stratégiques et modifications provisoires (File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf)
Aperçu d’une page des recommandations stratégiques (à venir)
Documents de référence
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)
Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)
Compilation des modifications proposées et des justifications (à venir)
Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)
Personne-ressource
Veuillez soumettre vos questions à ai-ia@tbs-sct.gc.ca
