2.0 Portée et méthode

2.0 Portée et méthode

Le Programme de funérailles et d’inhumation et le Programme d’entretien des cimetières et des stèles funéraires ont été évalués pour la dernière fois en 2017 dans le cadre de l’Évaluation des avantages et des services liés à la commémoration. Il est à noter que les autres composantes du Programme Le Canada se souvient seront évaluées simultanément dans le cadre de l’Évaluation du Programme Le Canada se souvient et devraient être terminées plus tard en 2022.

2.1 Portée de l’évaluation

L’évaluation a été menée d’avril 2021 à décembre 2021. L’évaluation a porté sur la période allant du 1er avril 2017 au 31 mars 2021 (bien que des renseignements et des statistiques plus à jour puissent être présentés dans ce rapport dans la mesure du possible).

Le Programme de décorations et de citations du Programme Le Canada se souvient a été inclus dans la portée préliminaire de cette évaluation, car il a été évalué conjointement avec le Programme de funérailles et d’inhumation et le Programme d’entretien des cimetières et des stèles funéraires au cours du dernier cycle d’évaluation. En raison du faible risque (faibles dépenses de fonctionnement annuelles) et de l’absence de préoccupations, la composante des décorations et des citations n’a pas été pleinement évaluée dans le cadre de cette évaluation.

Aucune analyse relative à l’entretien des cimetières et des stèles de vétérans morts à la guerre outre-mer n’a été effectuée. Le contrat avec la Commission des sépultures de guerre du Commonwealth pour les sépultures de guerre est un accord conjoint entre les gouvernements partenaires, ce qui comprend l’Australie, le Canada, l’Inde, la Nouvelle-Zélande, l’Afrique du Sud et le Royaume-Uni (la portion du financement du Canada représente environ 10,07 % du financement total). L’évaluation de l’optimisation des ressources ou des services offerts dans le cadre de ce contrat pourrait mieux convenir à une initiative conjointe entre les gouvernements partenaires plutôt qu’à une évaluation interne.

2.2 Objectif et questions de l’évaluation

La Politique sur les résultats du Secrétariat du Conseil du Trésor du Canada énonce que tous les programmes permanents de subventions et de contributions qui représentent en moyenne cinq millions de dollars par année en dépenses réelles doivent être évalués tous les cinq ans. La politique indique également que toutes les dépenses et tous les programmes organisationnels du Répertoire des programmes doivent être pris en compte dans la planification de l’évaluation ministérielle en fonction des risques et des besoins. De plus, la Directive sur les résultats indique que :

« … l’évaluation des programmes de subventions et de contributions en cours dont les dépenses réelles moyennes pour cinq ans sont supérieures ou égales à cinq millions de dollars par année et qui sont assujettis aux exigences de l’article 42.1 de la Loi sur la gestion des finances publiques doivent comprendre l’évaluation de la pertinence, de l’efficacité et de l’efficience ».

On a examiné le rendement passé des programmes ainsi que les activités actuelles afin de déterminer leur pertinence, leur efficacité et leur efficience. L’équipe d’évaluation a également exploré les domaines prioritaires suivants :

  • les résultats du projet de l’arriéré de l’entretien des stèles funéraires;
  • les opérations/plans futurs pour le Programme d’entretien des cimetières et des stèles funéraires après le projet;
  • les processus du Programme de funérailles et d’inhumation et les changements découlant de l’évaluation de 2017;
  • la portée du Programme de funérailles et d’inhumation;
  • les opérations courantes du cimetière God’s Acre et du cimetière Fort Massey.

À la fin d’un examen initial, des questions d’évaluation ont été élaborées pour aider à évaluer la pertinence et le rendement des programmes (y compris dans les domaines de l’efficience, de l’économie et de l’efficacité). Le tableau 2 ci-dessous présente une liste de questions d’évaluation mettant en évidence les principaux champs d’enquête. Pour plus de détails et de méthodes, voir l’annexe A – Matrice d’évaluation.

Tableau 2 – Questions d’évaluation
Pertinence
Dans quelle mesure les programmes continuent-t-ils de répondre à un besoin démontrable et dans quelle mesure continueront-t-ils de répondre à ce besoin dans le futur?
Dans quelle mesure les programmes s’harmonisent-t-ils aux priorités, aux rôles et aux responsabilités du gouvernement du Canada?
Dans quelle mesure les programmes répondent-ils aux besoins de leurs destinataires et de leur public cible?
Rendement
Les résultats appropriés ont-ils été cernés et mesurés pour déterminer la réussite des programmes?
Y a-t-il des possibilités ou des façons d’améliorer l’efficacité et l’économie des programmes?
Y a-t-il des répercussions imprévues découlant des programmes (positives ou négatives)?

2.3 Méthodes d’évaluation

La méthode de recherche a intégré de multiples sources de données, assurant la fiabilité des renseignements recueillis et des résultats déclarés. Le tableau 3 présente les sources de données utilisées pour évaluer la pertinence, le rendement, l’efficacité et l’économie des programmes.

Tableau 3 – Liste des méthodes

Table 3 – List of methodologies
Méthode Source
Documents ministériels et examen secondaire de la recherche Les documents ministériels suivants ont été examinés afin de comprendre les objectifs et l’intention des programmes, leurs pouvoirs et leurs exigences, la complexité, le contexte et tout enjeu clé, soit les documents de planification ministérielle, les lettres de mandat, les vérifications et les évaluations antérieures, les protocoles d’entente; les politiques, les processus opérationnels, les comptes rendus de décisions, les documents stratégiques, les rapports de rendement, les documents de recherche, les résultats d’enquête et la correspondance entre les clients et le public.
Examen des documents non ministériels Divers documents non ministériels ont été examinés, notamment des rapports et des transcriptions parlementaires, des lois et des règlements, des discours budgétaires, des recherches sur l’industrie, des documents médiatiques et des discours du Trône.
Entrevues Des entrevues ont été menées auprès du personnel d’ACC, y compris la haute direction, les employés de l’Administration centrale et des bureaux en région, et des experts en la matière du Ministère. Des entrevues ont également été menées auprès de représentants du Fonds du Souvenir et de la Commission des sépultures de guerre du Commonwealth.
Analyse statistique Une analyse statistique a été effectuée sur les données financières et opérationnelles d’ACC pour la période d’évaluation. Les données financières et opérationnelles fournies par le Fonds du Souvenir et la Commission des sépultures de guerre du Commonwealth ont également été analysées.
Observations L’observation de l’entretien des stèles funéraires terminé et de l’entretien des stèles funéraires à venir a été effectuée à plusieurs endroits à l’Île-du-Prince-Édouard. Il n’a pas été possible d’effectuer d’autres observations en raison des contraintes de déplacement ministérielles liées aux protocoles de sécurité liés à la pandémie de COVID-19. Une observation virtuelle du processus d’évaluation des demandes fondées sur l’évaluation des ressources a été fournie par le Fonds du Souvenir.
Examen de dossiers Des examens ont été effectués pour aider à évaluer le rendement, l’économie et l’efficacité du Programme de funérailles et d’inhumation. Les examens ont permis de vérifier l’exactitude de l’information provenant des systèmes d’ACC et du Fonds du Souvenir et de déterminer si les clients potentiels du programme sont correctement déterminés. L’examen a également servi à déterminer si les mesures correctives mises en œuvre à la suite de l’Évaluation des avantages et des services liés à la commémoration de 2017 ont eu un effet positif.

2.4 Considérations et limites

L’évaluation a relevé les considérations et les limites suivantes :

  • Au moment d’analyser les données pour cette évaluation, il est important de prendre en compte ce qui suit :
    • certains vétérans étaient des clients d’ACC au moment de leur décès (ils recevaient des avantages ou des services d’ACC) et, par conséquent, les renseignements sur eux sont accessibles aux fins d’analyse;
    • certains vétérans n’étaient pas des clients d’ACC au moment de leur décès (ils ne recevaient pas d’avantages ou de services d’ACC) et, par conséquent, il se peut qu’il n’y ait pas de renseignements accessibles dans le système d’ACC.
  • Les données sur le Programme de funérailles et d’inhumation se trouvent dans une base de données administrée par le Fonds du Souvenir, tandis que les données démographiques et les détails sur le décès des clients vétérans se trouvent dans le Réseau de prestation des services aux clients d’ACC. L’équipe d’évaluation n’a pas été en mesure d’apparier entièrement les données du Fonds du Souvenir avec les données d’ACC en raison des délais de production des rapports, des limites du système et des différences de clientèle. Par conséquent, l’équipe d’évaluation n’a pu analyser pleinement qu’un sous-ensemble (2 452) des bénéficiaires du Programme de funérailles et d’inhumation (ceux qui étaient des clients d’ACC avant de recevoir des prestations pour frais funéraires et frais d’inhumation).
  • À l’heure actuelle, les systèmes d’ACC ne contiennent pas de renseignements sur les bénéficiaires de prestations pour frais funéraires et frais d’inhumation, et le Fonds du Souvenir dispose de capacités limitées de production de rapports sur les données socioéconomiques. De plus, l’analyse du recensement du Canada de 2020, qui comprend un volet sur les vétérans, n’était pas accessible au moment de l’évaluation. Ces facteurs ont limité la capacité de l’équipe d’évaluation d’effectuer une analyse comparative entre les sexes plus (ACS Plus) complète.
  • Les restrictions de voyage imposées en raison de la pandémie de COVID-19 ont limité la capacité de l’équipe d’évaluation à effectuer du travail sur le terrain. Au lieu d’entrevues en personne, l’équipe d’évaluation a communiqué avec les personnes interrogées au moyen d’un logiciel audio ou vidéo.
  • L’équipe de l’Évaluation des avantages et des services liés à la commémoration de 2017 a effectué une inspection visuelle des sépultures à certains endroits à l’Île-du-Prince-Édouard, à Halifax et au Québec et a noté l’état de chaque sépulture inspectée. En raison des restrictions de voyage liées à la pandémie de COVID-19, l’équipe d’évaluation actuelle n’a pas pu effectuer d’inspections de suivi pour déterminer si les conditions des sépultures s’étaient améliorées, s’étaient détériorées ou étaient demeurées les mêmes à Halifax ou au Québec. Un échantillon limité a été examiné à l’Île-du-Prince-Édouard.
  • Il n’a pas été possible d’observer le personnel de première ligne du Fonds du Souvenir interagir avec les clients du Programme de funérailles et d’inhumation en raison des restrictions de voyage liées à la COVID-19. Bien que des enregistrements audios des interactions aient été accessibles lors de la dernière évaluation du Programme de funérailles et d’inhumation, les enregistrements de cette période d’évaluation n’étaient pas accessibles en raison d’un changement de fournisseur de services téléphoniques du Fonds du Souvenir.
  • L’accès au système de données du Fonds du Souvenir ou l’observation de celui-ci n’a pas été possible en raison des restrictions de voyage liées à la COVID-19, ce qui a limité la capacité de l’équipe d’évaluation à déterminer l’efficacité des processus décisionnels du Fonds du Souvenir. Pour atténuer ce risque, l’équipe d’évaluation a procédé à plusieurs examens de dossiers. De plus, le personnel du Fonds du Souvenir a présenté un survol virtuel du processus de prise de décisions dans le cadre de divers scénarios.
  • L’équipe d’évaluation n’a pas parlé directement aux survivants ou aux successions qui ont reçu le remboursement des frais funéraires dans le cadre du Programme de funérailles et d’inhumation. Par souci d’atténuation, l’équipe d’évaluation a examiné les résultats des sondages menés par le Fonds du Souvenir auprès de ceux qui ont présenté des demandes au programme (approuvées et refusées). Des entrevues ont également été menées auprès du personnel de première ligne du Fonds du Souvenir pour évaluer les besoins et les points de vue des demandeurs et des bénéficiaires du programme.
  • Les décisions d’admissibilité de plein doit relatives au Programme de funérailles et d’inhumation sont rendues par l’unité des décisions relatives aux prestations d’invalidité d’ACC, et les paiements sont administrés par le Fonds du Souvenir, tandis que l’ensemble du programme est géré par la Direction générale de la commémoration. L’équipe d’évaluation n’a pas été en mesure d’observer les processus du programme et la façon dont les différents secteurs interagissent. Par souci d’atténuation, l’équipe d’évaluation a examiné les processus opérationnels et mené des entrevues avec les parties concernées afin de déterminer si le processus relatif aux paiements liés à l’admissibilité de plein droit fonctionnait efficacement. De plus, l’équipe d’évaluation a examiné les dossiers de cas et a demandé des rapports spéciaux au personnel du Fonds du Souvenir.

Les renseignements susmentionnés doivent être pris en considération lors de la lecture du rapport d’évaluation.