wiki - User contributions [en]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-02-10T14:16:03Z

Ai-ia: /* Recommandations stratégiques de haut niveau */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’un examen par les pairs complet ou résumé avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Exiger la diffusion d’une EIA avant la production d’un système, et assurer son examen selon un calendrier établi.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; veiller à ce que les décisions automatisées ayant une incidence sur les droits ou les intérêts des personnes – y compris les fonctionnaires fédéraux – soient justes et inclusives; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===

* Printemps 2023 - Compilation des modifications finales et des justifications (''à venir'')
* Printemps 2023 - Aperçu d’une page des recommandations politiques finales (''à venir'')
* Hiver 2023 - [[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]
* Automne 2022 - [[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Été 2022 - [[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]
* Printemps 2022 - [[:en:images/0/0d/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2._FR).pdf|Première phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Printemps 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-02-09T21:28:42Z

Ai-ia: /* Policy recommendations */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of a complete or summarized peer review prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of an AIA prior to the production of a system and ensure it is reviewed on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decisions impacting the rights or interests of individuals – including federal public servants – are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===

* Spring 2023 - Compilation of final amendments and rationales (''forthcoming'')
* Spring 2023 - One-page overview of final policy recommendations (''forthcoming'')
* Winter 2023 - [[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]
* Fall 2022 - [[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]
* Summer 2022 - [[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]
* Spring 2022 - [[:en:images/d/d6/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2).pdf|Phase 1 consultation: key issues, policy recommendations, and provisional amendments]]
* Spring 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Third Review of the Directive on Automated Decision-Making

2023-02-09T21:27:18Z

Ai-ia: /* Policy recommendations */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require their completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of an AIA prior to the production of a system and ensure it is reviewed on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decisions impacting the rights or interests of individuals – including federal public servants – are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===

* Spring 2023 - Compilation of final amendments and rationales (''forthcoming'')
* Spring 2023 - One-page overview of final policy recommendations (''forthcoming'')
* Winter 2023 - [[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]
* Fall 2022 - [[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]
* Summer 2022 - [[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]
* Spring 2022 - [[:en:images/d/d6/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2).pdf|Phase 1 consultation: key issues, policy recommendations, and provisional amendments]]
* Spring 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

File:DADM 3rd review - Phase 1 consultation - Key issues, policy recommendations, and amendments (v2. FR).pdf

2023-02-02T21:02:55Z

Ai-ia: Ai-ia uploaded a new version of File:DADM 3rd review - Phase 1 consultation - Key issues, policy recommendations, and amendments (v2. FR).pdf

File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf

2023-02-02T20:56:05Z

Ai-ia: Ai-ia uploaded a new version of File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf

Questions clés, recommandations stratégiques et modifications provisoires

Troisième examen de la Directive sur la prise de décisions automatisée

2023-02-01T16:24:29Z

Ai-ia: /* Résultats escomptés */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; veiller à ce que les décisions automatisées ayant une incidence sur les droits ou les intérêts des personnes – y compris les fonctionnaires fédéraux – soient justes et inclusives; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===

* Printemps 2023 - Compilation des modifications finales et des justifications (''à venir'')
* Printemps 2023 - Aperçu d’une page des recommandations politiques finales (''à venir'')
* Hiver 2023 - [[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]
* Automne 2022 - [[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Été 2022 - [[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]
* Printemps 2022 - [[:en:images/0/0d/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2._FR).pdf|Première phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Printemps 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-02-01T16:23:09Z

Ai-ia: /* Expected outcomes */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decisions impacting the rights or interests of individuals – including federal public servants – are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===

* Spring 2023 - Compilation of final amendments and rationales (''forthcoming'')
* Spring 2023 - One-page overview of final policy recommendations (''forthcoming'')
* Winter 2023 - [[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]
* Fall 2022 - [[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]
* Summer 2022 - [[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]
* Spring 2022 - [[:en:images/d/d6/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2).pdf|Phase 1 consultation: key issues, policy recommendations, and provisional amendments]]
* Spring 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf

2023-01-31T00:15:13Z

Ai-ia: Ai-ia uploaded a new version of File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf

Questions clés, recommandations stratégiques et modifications provisoires

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-30T23:21:23Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===

* Printemps 2023 - Compilation des modifications finales et des justifications (''à venir'')
* Printemps 2023 - Aperçu d’une page des recommandations politiques finales (''à venir'')
* Hiver 2023 - [[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]
* Automne 2022 - [[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Été 2022 - [[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]
* Printemps 2022 - [[:en:images/0/0d/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2._FR).pdf|Première phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Printemps 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

File:DADM 3rd review - Phase 1 consultation - Key issues, policy recommendations, and amendments (v2. FR).pdf

2023-01-30T23:20:51Z

Ai-ia:

Third Review of the Directive on Automated Decision-Making

2023-01-30T17:46:37Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===

* Spring 2023 - Compilation of final amendments and rationales (''forthcoming'')
* Spring 2023 - One-page overview of final policy recommendations (''forthcoming'')
* Winter 2023 - [[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]
* Fall 2022 - [[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]
* Summer 2022 - [[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]
* Spring 2022 - [[:en:images/d/d6/DADM_3rd_review_-_Phase_1_consultation_-_Key_issues,_policy_recommendations,_and_amendments_(v2).pdf|Phase 1 consultation: key issues, policy recommendations, and provisional amendments]]
* Spring 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

File:DADM 3rd review - Phase 1 consultation - Key issues, policy recommendations, and amendments (v2).pdf

2023-01-30T17:45:51Z

Ai-ia:

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-25T00:43:18Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===

* Printemps 2023 - Compilation des modifications finales et des justifications (''à venir'')
* Printemps 2023 - Aperçu d’une page des recommandations politiques finales (''à venir'')
* Hiver 2023 - [[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]
* Automne 2022 - [[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]
* Été 2022 - [[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]
* Printemps 2022 - Première phase de consultation: questions clés, recommandations politiques et modifications provisoires (''à venir'')
* Printemps 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-01-25T00:40:12Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===

* Spring 2023 - Compilation of final amendments and rationales (''forthcoming'')
* Spring 2023 - One-page overview of final policy recommendations (''forthcoming'')
* Winter 2023 - [[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]
* Fall 2022 - [[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]
* Summer 2022 - [[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]
* Spring 2022 - Phase 1 consultation: key issues, policy recommendations, and provisional amendments (''forthcoming'')
* Spring 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Third Review of the Directive on Automated Decision-Making

2023-01-25T00:39:44Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
Spring 2023 - Compilation of final amendments and rationales (''forthcoming'')

Spring 2023 - One-page overview of final policy recommendations (''forthcoming'')

Winter 2023 - [[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]

Fall 2022 - [[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]

Summer 2022 - [[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]

Spring 2022 - Phase 1 consultation: key issues, policy recommendations, and provisional amendments (''forthcoming'')

Spring 2022 - [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-25T00:36:06Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Compilation des modifications finales et des justifications (à venir)

Aperçu d’une page des recommandations politiques finales (à venir)

[[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]

[[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]

[[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]

Première phase de consultation: questions clés, recommandations politiques et modifications provisoires (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-01-25T00:34:46Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
Compilation of final amendments and rationales (forthcoming)

One-page overview of final policy recommendations (forthcoming)

[[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]

[[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]

[[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]

Phase 1 consultation: key issues, policy recommendations, and provisional amendments (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-25T00:33:50Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Compilation des modifications finales et des justifications (à venir)

Aperçu d’une page des recommandations politiques (à venir)

[[:en:images/0/01/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(FR).pdf|Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants)]]

[[:en:images/7/74/DADM_3rd_Review_-_Phase_2_Consultation_Deck_(FR).pdf|Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires]]

[[:en:images/e/e9/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(FR).pdf|Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)]]

Première phase de consultation: questions clés, recommandations politiques et modifications provisoires (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-01-25T00:23:12Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
Compilation of final amendments and rationales (forthcoming)

One-page overview of policy recommendations (forthcoming)

[[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|What We Heard Report (phase 2 of stakeholder engagement)]]

[[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 consultation: key issues, policy recommendations, and provisional amendments]]

[[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|What We Heard Report (phase 1 of stakeholder engagement)]]

Phase 1 consultation: key issues, policy recommendations, and provisional amendments (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Third Review of the Directive on Automated Decision-Making

2023-01-25T00:21:45Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
Compilation of final amendments and rationales (forthcoming)

One-page overview of policy recommendations (forthcoming)

What We Heard Report (phase 2 of stakeholder engagement) ([[:en:images/3/33/3rd_review_of_the_Directive_on_Automated_Decision-Making_-_2nd_What_We_Heard_Report_(EN).pdf|Phase 2 WWHR]])

Phase 2 consultation: key issues, policy recommendations, and provisional amendments ([[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 Consultation]])

What We Heard Report (phase 1 of stakeholder engagement) ([[:en:images/3/32/WWHR_-_Phase_1_of_Stakeholder_Engagement_on_the_3rd_Review_of_the_DADM_(EN).pdf|Phase 1 WWHR]])

Phase 1 consultation: key issues, policy recommendations, and provisional amendments (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Third Review of the Directive on Automated Decision-Making

2023-01-25T00:19:21Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
Compilation of final amendments and rationales (forthcoming)

One-page overview of policy recommendations (forthcoming)

What We Heard Report (phase 2 of stakeholder engagement) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (EN).pdf|Phase 2 WWHR]])

Phase 2 consultation: key issues, policy recommendations, and provisional amendments ([[:en:images/archive/f/f4/20230125001443!DADM_3rd_Review_-_Phase_2_Consultation_Deck_(EN).pdf|Phase 2 Consultation]])

What We Heard Report (phase 1 of stakeholder engagement) ([[:File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf|Phase 1 WWHR]])

Phase 1 consultation: key issues, policy recommendations, and provisional amendments (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

2023-01-25T00:18:09Z

Ai-ia: Ai-ia reverted File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf to an old version

Key issues, policy recommendations, and provisional amendments

File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

2023-01-25T00:14:44Z

Ai-ia: Ai-ia reverted File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf to an old version

Key issues, policy recommendations, and provisional amendments

File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

2023-01-25T00:13:51Z

Ai-ia: Ai-ia reverted File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf to an old version

Key issues, policy recommendations, and provisional amendments

File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

2023-01-25T00:12:20Z

Ai-ia: Ai-ia uploaded a new version of File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

Key issues, policy recommendations, and provisional amendments

File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

2023-01-25T00:06:18Z

Ai-ia: Ai-ia uploaded a new version of File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf

Key issues, policy recommendations, and provisional amendments

File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf

2023-01-24T01:37:01Z

Ai-ia: Ai-ia uploaded a new version of File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-23T14:53:03Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Compilation des modifications finales et des justifications (à venir)

Aperçu d’une page des recommandations politiques (à venir)

Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (FR).pdf|Phase 2 WWHR]])

Deuxième phase de consultation: questions clés, recommandations politiques et modifications provisoires ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]])

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) ([[:File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf|Phase 1 WWHR]])

Première phase de consultation: questions clés, recommandations politiques et modifications provisoires (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-01-23T14:41:20Z

Ai-ia: /* Stakeholder Engagement */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
Compilation of final amendments and rationales (forthcoming)

One-page overview of policy recommendations (forthcoming)

What We Heard Report (phase 2 of stakeholder engagement) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (EN).pdf|Phase 2 WWHR]])

Phase 2 consultation: key issues, policy recommendations, and provisional amendments ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|Phase 2 Consultation]])

What We Heard Report (phase 1 of stakeholder engagement) ([[:File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf|Phase 1 WWHR]])

Phase 1 consultation: key issues, policy recommendations, and provisional amendments (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-20T23:12:21Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (FR).pdf|Phase 2 WWHR]])

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) ([[:File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf|Phase 1 WWHR]])

Compilation des modifications proposées et des justifications (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf

2023-01-20T23:11:25Z

Ai-ia: Ai-ia uploaded a new version of File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (FR).pdf

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants)

Third Review of the Directive on Automated Decision-Making

2023-01-19T22:52:00Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
What We Heard Report (phase 2 of stakeholder engagement) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (EN).pdf|Phase 2 WWHR]])

What We Heard Report (phase 1 of stakeholder engagement) ([[:File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf|Phase 1 WWHR]])

Compilation of proposed amendments and rationales (forthcoming)

One-page overview of policy recommendations (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Consultation materials ===
Key issues, policy recommendations, and provisional amendments ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|Phase 2 Consultation]])

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf

2023-01-19T22:50:38Z

Ai-ia: Ai-ia uploaded a new version of File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf

What We Heard Report (phase 1 of stakeholder engagement)

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T22:46:54Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (FR).pdf|Phase 2 WWHR]])

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)

Compilation des modifications proposées et des justifications (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T22:46:27Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (FR).pdf|Phase 2 WWHR)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)

Compilation des modifications proposées et des justifications (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (FR).pdf

2023-01-18T22:44:43Z

Ai-ia:

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T22:43:39Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)

Compilation des modifications proposées et des justifications (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T22:42:46Z

Ai-ia: /* Documents de consultation */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

Compilation des modifications proposées et des justifications (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T22:42:35Z

Ai-ia: /* Documents de consultation */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

Compilation des modifications proposées et des justifications (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|Phase 2 Consultation]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T22:41:59Z

Ai-ia: /* Mobilisation des intervenants */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir)

Aperçu d’une page des recommandations stratégiques (à venir)

Compilation des modifications proposées et des justifications (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]]) 

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-01-18T22:40:26Z

Ai-ia: /* Consultation materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.
=== Reference materials ===
What We Heard Report (phase 2 of stakeholder engagement) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (EN).pdf|Phase 2 WWHR]])

What We Heard Report (phase 1 of stakeholder engagement) (forthcoming)

Compilation of proposed amendments and rationales (forthcoming)

One-page overview of policy recommendations (forthcoming)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Consultation materials ===
Key issues, policy recommendations, and provisional amendments ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|Phase 2 Consultation]])

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Third Review of the Directive on Automated Decision-Making

2023-01-18T22:37:00Z

Ai-ia:

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.

=== Consultation materials ===
Key issues, policy recommendations, and provisional amendments ([[:File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|Phase 2 Consultation]]) 

One-page overview of policy recommendations (forthcoming)
=== Reference materials ===
What We Heard Report (phase 2 of stakeholder engagement) ([[:File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (EN).pdf|Phase 2 WWHR]]) 

What We Heard Report (phase 1 of stakeholder engagement) (forthcoming) 

Compilation of proposed amendments and rationales (forthcoming) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T20:27:37Z

Ai-ia:

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la [https://www.tbs-sct.canada.ca/pol/doc-fra.aspx?id=32592 Directive sur la prise de décisions automatisée]. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à [https://www.canada.ca/fr/gouvernement/systeme/gouvernement-numerique/innovations-gouvernementales-numeriques/utilisation-responsable-ai/evaluation-incidence-algorithmique.html l’évaluation de l’incidence algorithmique] (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]]) 

Aperçu d’une page des recommandations stratégiques (à venir)
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir) 

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir) 

Compilation des modifications proposées et des justifications (à venir) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T20:20:15Z

Ai-ia:

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]]) 

Aperçu d’une page des recommandations stratégiques (à venir)
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir) 

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir) 

Compilation des modifications proposées et des justifications (à venir) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T20:18:17Z

Ai-ia: /* Documents de référence */

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]]) 

Aperçu d’une page des recommandations stratégiques (à venir)
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir) 

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir) 

Compilation des modifications proposées et des justifications (à venir) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Troisième examen de la Directive sur la prise de décisions automatisée

2023-01-18T20:17:36Z

Ai-ia:

== À propos du troisième examen ==

=== Historique ===
Le Secrétariat du Conseil du Trésor du Canada (SCT) termine le troisième examen de la Directive sur la prise de décisions automatisée. L’examen fait le point sur l’état actuel de la directive et relève les risques et défis auquel est confronté le gouvernement fédéral dans son engagement de garantir l’utilisation responsable de l’intelligence artificielle (IA) dans la fonction publique fédérale. Il fournit une analyse des lacunes pouvant limiter la pertinence et l’efficacité de la directive à appuyer la transparence, la responsabilisation et l’équité dans la prise de décisions automatisée. L’examen souligne également des enjeux de terminologie, de faisabilité et de cohérence avec d’autres instruments de politique fédéraux.

Les examens périodiques ne sont pas exhaustifs. Ils cherchent à adapter la directive aux tendances en matière de réglementation et d’utilisation des technologies d’IA au Canada et mondialement. Les examens permettent également au SCT d'affine progressivement le texte de l’instrument pour appuyer l’interprétation et faciliter la conformité à l’échelle du gouvernement. Le premier examen (2020-2021) visait à clarifier et à renforcer les exigences existantes, à mettre à jour les références aux politiques et à renforcer les mesures de transparence et d’assurance de la qualité. Le deuxième examen (2021-2022) a éclairé l’élaboration de lignes directrices à l’appui de l’interprétation de la directive.

=== Recommandations stratégiques de haut niveau ===
Dans le cadre du troisième examen, le SCT propose 12 recommandations politiques et des modifications connexes à la directive :

* Élargir la portée pour couvrir les services internes.
* Préciser que la portée comprend des systèmes qui effectuent des évaluations liées aux décisions administratives.
* Remplacer l’intervalle d’examen de six mois par un examen biennal et permettre à la Dirigeante principale de l’information du Canada de demander des examens hors cycle.
* Remplacer les références aux Canadiens par un langage plus englobant, comme les clients et la société canadienne.
* Mettre en place des mesures favorisant le traçage, la protection, et le traitement licite des données utilisées et générées par un système.
* Élargir l’exigence relative aux essais des biais pour couvrir les modèles.
* Mandater l’achèvement de l’Analyse comparative entre les sexes plus lors de l’élaboration ou de la modification d’un système.
* Établir des critères d’explication à l’appui de l’exigence d’explication et les intégrer à l’évaluation de l’incidence algorithmique (EIA).
* Élargir l’EIA pour y inclure des questions sur les raisons poussant l'institution à adopter l’automatisation et sur les répercussions potentielles sur les personnes vivant avec un handicap.
* Exiger la publication d’examens par les pairs complets ou résumés et exiger l’achèvement avant la production du système.
* Harmoniser l’exigence relative aux éventualités avec la terminologie pertinente énoncée dans la Politique sur la sécurité du Conseil du Trésor.
* Donner le mandat de diffuser les EIA avant la production d’un système, ainsi que leur examen sur une base régulière.

=== Résultats escomptés ===
La mise en œuvre des modifications proposées aiderait à garantir que les systèmes décisionnels automatisés ayant une incidence sur les fonctionnaires fédéraux soient équitables et inclusifs; renforcer la transparence et la responsabilisation; renforcer les mesures de protection contre la discrimination et le préjudice; préciser les exigences; et appuyer les besoins opérationnels.

== Mobilisation des intervenants ==
Le SCT a collaboré avec un large éventail d’intervenants au cours du troisième examen, notamment dans les institutions fédérales, le milieu universitaire, la société civile, d’autres autorités gouvernementales et des organisations internationales. L’objectif de la mobilisation des intervenants est de valider les recommandations politiques et les modifications provisoires proposées dans le cadre de l’examen et de cerner d’autres questions qui méritent d’être examinées dans le cadre de cet exercice ou d’examens futurs.

Le SCT a divisé la mobilisation des intervenants en deux phases. La seconde phase a eu lieu entre septembre et novembre 2022. Elle comprenait la mobilisation des collectivités fédérales en politiques en matière de données et d’IA; des agents du Parlement; des agents négociateurs; des représentants de l'industrie; et des organisations internationales. La première phase s’est déroulée entre avril et juillet 2022 et s’est surtout appuyée sur l’expertise de partenaires fédéraux réalisant des projets d’automatisation, et d’experts en la matière dans le milieu universitaire, la société civile et d'homologues d’autres gouvernements. Les rapports sur ce que nous avons entendu, liés ci-dessous, fournissent un résumé des thèmes de la mobilisation ainsi que des résultats.

=== Documents de consultation ===
Questions clés, recommandations stratégiques et modifications provisoires ([[File:DADM 3rd Review - Phase 2 Consultation Deck (FR).pdf|left|thumb|Questions clés, recommandations stratégiques et modifications provisoires]]) 

Aperçu d’une page des recommandations stratégiques (à venir)
=== Documents de référence ===
Rapport sur ce que nous avons entendu (phase 2 de la mobilisation des intervenants) (à venir)

Rapport sur ce que nous avons entendu (phase 1 de la mobilisation des intervenants) (à venir) Compilation des modifications proposées et des justifications (à venir)

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Rapport sur le troisième examen de la Directive sur la prise de décisions automatisée (phase 1)]

=== Personne-ressource ===
Veuillez soumettre vos questions à [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[EN:Third Review of the Directive on Automated Decision-Making]]

Third Review of the Directive on Automated Decision-Making

2023-01-18T19:25:17Z

Ai-ia:

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.

=== Consultation materials ===
Key issues, policy recommendations, and provisional amendments ([[File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|none|thumb|Key issues, policy recommendations, and provisional amendments|alt=]]) 

One-page overview of policy recommendations (forthcoming)
=== Reference materials ===
What We Heard Report (phase 2 of stakeholder engagement) (forthcoming) 

What We Heard Report (phase 1 of stakeholder engagement) (forthcoming) 

Compilation of proposed amendments and rationales (forthcoming) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

File:3rd review of the Directive on Automated Decision-Making - 2nd What We Heard Report (EN).pdf

2023-01-18T19:13:13Z

Ai-ia:

Third Review of the Directive on Automated Decision-Making

2023-01-18T19:09:44Z

Ai-ia: /* Reference materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.

=== Consultation materials ===
Key issues, policy recommendations, and provisional amendments ([[File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|none|thumb|Key issues, policy recommendations, and provisional amendments|alt=]]) 

One-page overview of policy recommendations (forthcoming)
=== Reference materials ===
What We Heard Report (phase 2 of stakeholder engagement) (forthcoming) 

What We Heard Report (phase 1 of stakeholder engagement) ([[File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf|left|thumb|What We Heard Report (phase 1 of stakeholder engagement)]]) 

Compilation of proposed amendments and rationales (forthcoming) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]

Third Review of the Directive on Automated Decision-Making

2023-01-18T19:08:00Z

Ai-ia: /* Consultation materials */

== '''About the Third Review''' ==

=== Background ===
Treasury Board of Canada Secretariat (TBS) is completing the third review of the [https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592 Directive on Automated Decision-Making]. The review takes stock of the current state of the directive and identifies risks and challenges to the government’s commitment to responsible artificial intelligence (AI) in the federal public service. It provides an analysis of gaps that may limit the directive’s relevance and effectiveness in supporting transparency, accountability, and fairness in automated decision-making. The review also highlights problems with terminology, feasibility, and coherence with other federal policy instruments.

Periodic reviews are not intended to be exhaustive. They seek to adapt the directive to trends in the regulation and use of AI technologies in Canada and globally. Reviews also allow TBS to gradually refine the text of the instrument to support interpretation and facilitate compliance across government. The first review (2020-21) sought to clarify and reinforce existing requirements, update policy references, and strengthen transparency and quality assurance measures. The second review (2021-22) informed the development of guidelines supporting the interpretation of the directive.

=== Policy recommendations ===
As part of the third review, TBS is proposing 12 policy recommendations and accompanying amendments to the directive:

* Expand the scope to cover internal services.
* Clarify that the scope includes systems which make assessments related to administrative decisions.
* Replace the 6-month review interval with a biennial review and enable the Chief Information Officer of Canada to request off-cycle reviews.
* Replace references to Canadians with more encompassing language such as clients and Canadian society.
* Introduce measures supporting the tracing, protection, and lawful handling of data used and generated by a system.
* Expand the bias testing requirement to cover models.
* Mandate the completion of Gender Based Analysis Plus during the development or modification of a system.
* Establish explanation criteria in support of the explanation requirement and integrate them into the [https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html Algorithmic Impact Assessment (AIA)].
* Expand the AIA to include questions concerning an institution's reasons for pursuing automation and potential impacts on persons with disabilities.
* Mandate the publication of complete or summarized peer reviews and require completion prior to system production.
* Align the contingency requirement with relevant terminology established in Treasury Board security policy.
* Mandate the release of AIAs prior to the production of a system and their review on a scheduled basis.

=== Expected outcomes ===
The recommendations would reinforce transparency and accountability; strengthen protections against discrimination and harm; ensure that automated decision systems impacting federal public servants are fair and inclusive; clarify requirements; and support operational needs.

== '''Stakeholder Engagement''' ==
TBS has engaged with a broad range of stakeholders during the third review, including in federal institutions, academia, civil society, governments in other jurisdictions, and international organizations. The goal of stakeholder engagement is to validate the policy recommendations and provisional amendments proposed in the review and identify additional issues that merit consideration as part of this exercise or in future reviews.

TBS divided stakeholder engagement into two phases. The second phase ran between September and November 2022. It involved outreach to federal AI policy and data communities; agents of parliament; bargaining agents; industry representatives; and international organizations. The first phase ran between April and July 2022, and mainly drew on the expertise of federal partners operating automation projects and subject matter experts in academia, civil society, and counterparts in other governments. The What We Heard Reports linked below provide a summary of engagement themes and outcomes.

=== Consultation materials ===
Key issues, policy recommendations, and provisional amendments ([[File:DADM 3rd Review - Phase 2 Consultation Deck (EN).pdf|none|thumb|Key issues, policy recommendations, and provisional amendments|alt=]]) 

One-page overview of policy recommendations (forthcoming)
=== Reference materials ===
What We Heard Report (phase 1 of stakeholder engagement) ([[File:WWHR - Phase 1 of Stakeholder Engagement on the 3rd Review of the DADM (EN).pdf|left|thumb|What We Heard Report (phase 1 of stakeholder engagement)]]) 

[https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4087546 Report on the 3rd review of the Directive on Automated Decision-Making (phase 1)]

=== Contact ===
Please submit any questions to [mailto:Ai-ia@tbs-sct.gc.ca ai-ia@tbs-sct.gc.ca]

[[fr:Troisième examen de la Directive sur la prise de décisions automatisée]]