Corps de l’article

Introduction

L’approche réaliste gagne en popularité auprès des chercheurs en sciences sociales, notamment ceux dont les objets de recherche sont complexes : programmes, projets ou politiques publiques qui visent à modifier ou à améliorer une situation sociale. En effet, l’approche réaliste a été adaptée à la pratique de l’évaluation de programmes (Pawson & Tilley, 1997), et plus récemment à celle de la revue systématique (Pawson, Greenhalgh, Harvey, & Walshe, 2005). L’évaluation réaliste vise à comprendre, à partir d’observations empiriques, une intervention, en s’intéressant spécifiquement aux mécanismes sous-jacents de l’intervention et à l’influence du contexte. La revue réaliste, ou synthèse réaliste, est également une démarche évaluative qui utilise les écrits existants pour comprendre une famille d’interventions. Une évaluation réaliste ou une revue réaliste n’est pas une stratégie de recherche à proprement parler. Il s’agit plutôt d’adopter une perspective particulière fondée sur les principes du réalisme critique pour comprendre une intervention (Pawson et al., 2005). Ces pratiques de recherche évaluative semblent mieux adaptées aux exigences du mouvement de la prise de décision ou de l’action fondée sur les preuves scientifiques (Pawson, 2006). Ainsi, elles s’inscrivent dans une perspective tant formative, en produisant des connaissances permettant d’améliorer les interventions, que fondamentale, en contribuant à l’avancement des connaissances empiriques et théoriques.

Pourtant, l’approche réaliste est encore peu connue et utilisée par les chercheurs, évaluateurs et étudiants francophones. Une partie de l’explication à cette situation est certainement à trouver dans la complexité de l’approche et la rareté des écrits en français la concernant. En effet, les concepts de l’approche réaliste sont relativement bien connus ; plusieurs ouvrages (Henry, Julnes, & Mark, 1998 ; Pawson, 2006, 2013 ; Pawson & Tilley, 1997) et articles scientifiques (Pawson, 2002, 2003 ; Pawson et al., 2005) sont dédiés à l’évaluation réaliste ou à la revue réaliste.

Néanmoins, ces concepts sont encore soumis à des interprétations diverses ou à des difficultés d’opérationnalisation (Calnan & Ferlie, 2003 ; Marchal, van Belle, van Olmen, Hoeree, & Kegels, 2012 ; Pawson & Manzano-Santaella, 2012). Sur le plan de la pratique, les articles empiriques d’évaluation réaliste se multiplient dans des champs disciplinaires divers, et les revues réalistes commencent à se développer. Bien que leurs auteurs tâchent de mettre en lumière les difficultés méthodologiques éprouvées, rares sont ceux qui font l’exercice scientifique systématique de mettre en perspective les concepts et la pratique de l’évaluation et de la revue réalistes. Quant au défi linguistique, seulement deux articles ont été recensés en langue française. Le premier est un chapitre de livre écrit par Blaise, Marchal, Lefèvre, et Kegels (2010) dans lequel les auteurs montrent la pertinence de l’évaluation réaliste pour l’étude des inégalités sociales de santé, face aux méthodes expérimentales. Toutefois, les auteurs ne mettent pas en relation les concepts de l’approche réaliste avec la pratique de l’évaluation de programme. Le second est un article dans lequel sont mis en lumière les défis de l’utilisation de l’approche réaliste (Ridde, Robert, Guichard, Blaise, & Van Holmen, 2011), sans nécessairement proposer des pistes de solution. Bien que ces deux écrits présentent les concepts fondamentaux de l’approche réaliste, ils n’adoptent pas une démarche didactique qui permettrait d’en clarifier les concepts.

Le présent article tente de dépasser ces limites en jetant un pont entre la théorie et la pratique, à partir de l’étude d’un cas concret d’une revue réaliste en santé publique (voir encadré 1). La première partie de l’article est consacrée à l’explication didactique des concepts clés de l’approche réaliste. La seconde partie rend compte des défis liés à leur opérationnalisation.

Sur le plan théorique : les concepts clés de l’approche réaliste

Cette première partie abordera le thème de la complexité des interventions sociales, puisque c’est dans cette perspective que s’inscrivent l’évaluation de programmes et la revue réalistes. Ensuite, l’approche réaliste sera située par rapport aux autres traditions épistémologiques, et la vision de la causalité selon le réalisme critique sera explicitée. Enfin, il sera question de l’approche réaliste pour l’évaluation de programmes et la revue systématique en tant qu’approche fondée sur les théories.

Comprendre et analyser les interventions sociales et complexes

L’approche réaliste s’intéresse spécifiquement aux phénomènes dits « sociaux », aux interactions sociales entre plusieurs individus ou groupes d’individus, ou encore aux interventions sociales. Plante (1994) propose une définition du terme « programme » :

ensemble cohérent, organisé et structuré d’objectifs, de moyens et de personnes qui l’animent .… [Il] est sous le contrôle d’une ou de plusieurs personnes responsables de la qualité de sa formulation et de son fonctionnement. [Il] est mis en place pour transformer des choses ou l’état d’une chose.

Les personnes dont il s’agit sont des acteurs sociaux qui agissent dans un environnement avec lequel ils sont en interaction.

La particularité des phénomènes sociaux est qu’ils sont généralement complexes. Le modèle socio-écologique (voir figure 1) (McLeroy, Bibeau, Steckler, & Glanz, 1988) illustre l’imbrication des différents niveaux qui constituent le monde social. Ainsi, l’individu se trouve au centre d’une multitude de couches sociales (famille, institution, communauté, société). L’interaction entre ces systèmes est complexe et crée pour l’individu un ensemble d’occasions favorables et d’obstacles à l’action. Il en est de même pour les interventions sociales puisque celles-ci s’intéressent à ces phénomènes sociaux : elles sont complexes.

Figure 1

Une illustration du modèle socio-écologique

Une illustration du modèle socio-écologique

-> Voir la liste des figures

La complexité, considérée comme un paradigme émergent de la recherche (Tremblay & Richard, 2011), est une manière d’appréhender les phénomènes sociaux qui se distingue de la conception mécanique du monde qui a longtemps prédominé (Morin & Le Moigne, 1999). Pawson (2013) propose une «check-list» de la complexité des interventions sociales. Les éléments de cette «check-list» sont définis dans le tableau 1 et illustrés avec l’exemple des politiques d’exemption des paiements directs en Afrique sub-saharienne (PEP).

Tableau 1

La « check-list de la complexité » et l’exemple des PEP [adapté de Pawson (2013) et Ridde, Robert, Guichard, Blaise, & Van Holmen (2011)]

La « check-list de la complexité » et l’exemple des PEP [adapté de Pawson (2013) et Ridde, Robert, Guichard, Blaise, & Van Holmen (2011)]

-> Voir la liste des tableaux

La complexité qui caractérise ce type d’interventions – décrit souvent comme une « boîte noire » (Weiss, 1970) – est ce que l’évaluation de programmes et la revue réalistes cherchent à mettre en lumière et à comprendre.

Le réalisme critique, une branche du post-positivisme

Guba et Lincoln (1994) distinguent trois courants (ou paradigmes) de la philosophie des sciences : le positivisme, le post-positivisme et le constructivisme (voir tableau 2). Cette classification peut être considérée comme idéale, au sens wébérien du terme, dans la mesure où ces visions se situent sur un continuum et qu’il existe des nuances et des branches spécifiques à chacune d’elles. Toutefois, ce tableau reste utile à des fins pédagogiques.

Tableau 2

Le réalisme critique dans la philosophie des sciences [adapté de Guba & Lincoln (1994)]

Le réalisme critique dans la philosophie des sciences [adapté de Guba & Lincoln (1994)]

-> Voir la liste des tableaux

Le réalisme critique se situe dans le courant du post-positivisme et se distingue des autres courants de la philosophie des sciences. Sur le plan de l’ontologie, c’est-à-dire la nature de la réalité et de sa forme, il postule l’existence d’une réalité objective quoique saisissable uniquement à travers nos sens. Sur le plan de l’épistémologie, c’est-à-dire la nature de la relation entre le chercheur et la connaissance, il reconnaît la nécessité de l’objectivité dans le sens d’un idéal à atteindre. Cette philosophie requiert néanmoins un questionnement sur la correspondance des résultats avec la connaissance acquise et tacite, ce qui lui vaut le qualificatif de « critique ». Ainsi, les résultats de recherche ne sont pas objectifs par nature ou parce qu’ils sont obtenus grâce à des méthodes scientifiques. Ils ne sont pas non plus issus d’une coconstruction, comme c’est le cas dans la tradition constructiviste. Enfin, sur le plan de la méthode, c’est-à-dire les moyens de la recherche de la connaissance, la recherche prend place de manière générale en contexte naturel et donne une place à la perspective émique, c’est-à-dire au point de vue de l’acteur (Olivier de Sardan, 1998). Il est donc utile d’utiliser tant les méthodes quantitatives que qualitatives (McEvoy & Richard, 2006). Il convient de préciser que, dans l’approche réaliste selon Pawson et Tilley (1997), le projet scientifique n’est pas tant de falsifier des hypothèses que d’approfondir et de préciser des théories. Cet aspect sera approfondi au moment d’aborder le mode d’investigation de l’approche réaliste et l’évaluation fondée sur les théories.

Causalité, mécanisme et mode de raisonnement

La causalité selon le réalisme critique est générative, et non pas « successionniste ». Dans une perspective de causalité « successionniste », un effet est produit par une variable dite indépendante qui la précède, il est nécessaire de contrôler les variables du contexte pour pouvoir mettre au jour cette relation qui est par définition simple. Cette relation est constante et peut être observée de manière systématique.

La causalité générative a trois postulats (Pawson, 2006) :

  1. Le premier postulat est qu’une intervention ne fonctionne pas en elle-même et n’est pas ce qui produit un effet. Selon le réalisme critique, toute intervention déclenche un mécanisme ou un ensemble de mécanismes qui permet la production d’effets ;

  2. Le deuxième postulat, illustré dans la figure 2, est que toute intervention est située dans un contexte. L’interaction du contexte et de l’intervention est ce qui déclenche – ou non – le mécanisme ;

  3. Le troisième postulat est que – dans la perspective d’une influence du contexte – il n’est pas tant nécessaire de chercher la loi immuable qui permet d’associer une intervention à la production d’un ou de plusieurs effets que d’observer ce que Lawson (cité dans Pawson, 2006) nomme des demi-régularités. Une demi-régularité est la survenue régulière, mais non nécessairement permanente, d’un effet à la suite de la mise en place d’une intervention qui déclenche un ou plusieurs mécanismes dans un contexte particulier. Dans l’évaluation et la revue réalistes, ces demi-régularités prennent la forme de configurations Contexte-Mécanisme-Effet.

Figure 2

Interaction du contexte et de l’intervention pour déclencher le mécanisme [adapté de Pawson (2006)]

Interaction du contexte et de l’intervention pour déclencher le mécanisme [adapté de Pawson (2006)]

-> Voir la liste des figures

Le mécanisme dont il est question est l’un des concepts les plus difficiles à appréhender de l’approche réaliste, si ce n’est le plus difficile. En s’inspirant des travaux de Pawson (2006) et de Astbury et Leeuw (2010), le mécanisme peut être compris comme un élément du raisonnement de l’acteur face à une intervention. Un mécanisme est généralement caché, sensible aux variations du contexte et aux activités mises en oeuvre dans le cadre de l’intervention, et produit des effets. Par exemple, Kane, Gerretsen, Scherpbier, Dal Poz, et Dieleman (2010) recensent certains des mécanismes qui permettent aux actions de formation – en tant qu’intervention – d’améliorer la performance des agents de santé communautaire dans les pays à faible et moyen revenus : un sentiment d’autoefficacité et de maîtrise des tâches, un sentiment d’estime de soi et l’assurance de la présence d’un système de soutien. L’acteur doit ici être compris non pas seulement comme un individu, mais comme une entité. Il peut s’agir également d’une organisation douée d’une intelligence collective et d’un raisonnement (Marchal et al., 2012). Le mécanisme, au sens réaliste, est à distinguer du terme « mécanisme » utilisé généralement en évaluation et qui fait le plus souvent référence à une activité ou à un mode de fonctionnement de l’intervention qui fait l’objet de l’évaluation (Astbury & Leeuw, 2010). Ainsi, une formation n’est pas un mécanisme au sens réaliste ; il s’agit d’une intervention ou d’une activité qui fait partie d’une intervention plus large. En revanche, le sentiment de disposer de savoir-faire appropriés pour intervenir dans des contextes d’enseignement différents que peuvent éprouver les participants à la suite d’une formation constitue un mécanisme.

Fondées sur ces bases épistémologiques et conceptuelles, l’évaluation réaliste et la revue réaliste vont au-delà de la question traditionnelle des évaluations fondées sur une épistémologie positiviste, « l’intervention fonctionne-t-elle ? ». Elles posent également la question du comment, pour qui, pour quoi et dans quelles circonstances. La démarche de l’approche réaliste est donc la suivante (Pawson & Tilley, 1997) :

L’objet fondamental de la recherche sociale est d’expliquer des régularités intéressantes, intrigantes et socialement significatives. L’explication se fait sous la forme d’un postulat à propos des mécanismes sous-jacents qui produisent ces régularités et consiste donc à formuler des propositions sur la manière dont l’interaction entre la structure (le contexte) et l’agence (l’acteur) constitue la régularité. Dans la recherche de type réaliste, on s’intéresse également à la manière dont le fonctionnement de ces mécanismes est contingent et conditionnel, et donc déclenché dans des contextes locaux, historiques ou institutionnels spécifiques.*[1]

(p. 71)

Les concepts clés de l’approche réaliste sont indiqués en gras.

Pour conclure sur la causalité générative, il convient d’évoquer la particularité du mode de raisonnement qui l’accompagne. Les démarches scientifiques se fondent sur trois idéaux types de modes de raisonnement dont les deux plus courants sont le raisonnement déductif et le raisonnement inductif. Le raisonnement déductif part d’une théorie sur laquelle sont fondées des hypothèses qui sont ensuite mises à l’épreuve de l’observation empirique dans le but de confirmer ou non cette théorie. Le raisonnement inductif prend le chemin inverse et consiste à partir de l’observation empirique afin de distinguer des régularités qui feront l’objet d’hypothèses nécessaires au développement d’une théorie. Dans l’approche réaliste, on utilise un troisième mode de raisonnement dit « rétroductif » ou abduction (voir figure 3).

Figure 3

Le raisonnement rétroductif ou abduction

Le raisonnement rétroductif ou abduction

-> Voir la liste des figures

L’abduction est un mode de raisonnement itératif dans la mesure où il consiste en un va-et-vient constant entre la théorie et l’observation empirique pour distinguer les demi-régularités évoquées plus haut. En fait, les observations empiriques peuvent être appréhendées comme les morceaux d’un puzzle que l’on essaie de reconstituer à partir d’un modèle qui serait la théorie, ce modèle n’étant pas figé mais se précisant au fur et à mesure de la recherche et de la confrontation avec les observations empiriques. Certains chercheurs réalistes utilisent l’analogie du chasseur à la recherche des indices de la présence de la bête (McEvoy & Richard, 2006). De même, le chercheur recherche dans l’observation empirique des indices de la présence d’une demi-régularité. Cela étant, le plus important dans ce mode de raisonnement est qu’il vise plus spécifiquement à répondre à la question « Pourquoi ? » et donc à générer des hypothèses explicatives d’un phénomène. Il est possible ici d’évoquer une autre analogie, celle de Sherlock Holmes cherchant à élucider un meurtre (Carson, 2008) : il faut à la fois trouver qui est le meurtrier, comment s’est déroulé le meurtre, et pourquoi le meurtre a eu lieu, c’est-à-dire le motif du crime. Dans l’évaluation réaliste, il faut chercher à comprendre pourquoi une intervention produit un effet particulier en s’intéressant aux mécanismes et au rôle du contexte.

Théories et approche réaliste

La théorie joue un rôle important dans l’évaluation et la revue réalistes. L’évaluation réaliste est issue du courant de l’évaluation fondée sur la théorie (theory-based ou theory-driven evaluation) dont les grandes figures sont Chen et Rossi (1980) et Weiss (1997). Alkin et Christie (2004) situent ce courant dans la branche des méthodes, où se trouvent les théoriciens qui se sont intéressés à l’importance des méthodes de recherche pour la conduite des évaluations.

Selon eux, les interventions sociales sont des théories : elles sont fondées sur l’idée (la théorie) qu’une intervention est censée produire un effet pour différentes raisons liées aux activités mises en oeuvre. Il s’agit de ce qui est nommé théorie de l’intervention ou théorie du programme (ou encore logique d’intervention). Weiss (1997) précise que « la théorie dont il est question est l’ensemble de croyances ou de suppositions qui soutiennent les activités du programme. Elles sont les hypothèses sur lesquelles les gens, consciemment ou inconsciemment, planifient leurs programmes et leurs actions. »* (p. 503). Ce type de théorie permet d’orienter la recherche. C’est elle que l’on met à l’épreuve de l’observation empirique, toujours dans la perspective de mieux comprendre comment et pourquoi elle produit ses effets et dans quel ou quels contextes.

La théorie d’une intervention peut être modélisée de façon à expliciter le cheminement du raisonnement de l’intervention jusqu’à la production des effets attendus. La modélisation d’une intervention peut être plus ou moins élaborée, et illustrer les liens entre différents éléments de l’intervention d’une manière plus ou moins exhaustive. Cela ne signifie pas pour autant que l’intervention n’est pas complexe, d’autant plus qu’il peut être difficile de représenter graphiquement cette complexité. La figure 4 est un exemple de modélisation. Elle présente, de manière succincte, la théorie sous-jacente aux PEP dans les pays d’Afrique subsaharienne. Le postulat est que l’instauration de soins de santé moderne gratuits pour certaines populations cibles ou pour certains types de soins concourt à augmenter l’utilisation de ces services de santé en levant une partie de la barrière financière. Cela encourage les bénéficiaires à recourir à ces services de santé moderne, ce qui devrait, en fin de compte, conduire à réduire les inégalités d’accès et à améliorer la santé des populations. Si la modélisation est basique, l’intervention – quant à elle – ne l’est pas, comme le montre le tableau 1.

Figure 4

Modélisation basique de la théorie de l’intervention des PEP

Modélisation basique de la théorie de l’intervention des PEP

-> Voir la liste des figures

Un second type de théorie est fréquemment mentionné lorsque l’approche réaliste est évoqué ; il s’agit de la théorie de moyenne portée. La théorie de moyenne portée se distingue de la théorie de programme par son niveau d’abstraction. Elle est une généralisation suffisamment abstraite pour expliquer une famille d’interventions, dont fait partie celle qui est à l’étude. Le concept de théorie de moyenne portée a été proposé par Merton (1968) qui la définit en ces termes :

une théorie dont le niveau se situe entre les hypothèses de travail, mineures mais nécessaires, qui se développent au quotidien dans le cadre de la recherche, et les efforts systématiques d’intégration pour développer une théorie unitaire qui expliquerait toutes les uniformités observées du comportement social, de l’organisation sociale, et du changement social*.

(p. 448)

Dans son application à l’évaluation réaliste, les auteurs ont de leur côté (Ridde et al., 2011) proposé la définition suivante d’une théorie de moyenne portée : « niveau d’abstraction théorique qui permet d’expliquer les tendances et les régularités observées dans les interactions contexte-mécanisme-effet d’un ensemble d’interventions » (p. 40).

Pour illustrer ce niveau d’abstraction, les auteurs proposent deux exemples issus d’une évaluation réaliste (Marchal, Dedzo, & Kegels, 2010) et d’une revue réaliste (Jagosh et al., 2012). Marchal et al. (2010) ont mené une évaluation réaliste de la gestion d’un hôpital performant au Ghana. Ils ont formulé ainsi la théorie de moyenne portée se rapportant à l’intervention de gestion :

Les gestionnaires hospitaliers des hôpitaux performants déploient des structures organisationnelles qui permettent la décentralisation et des équipes autogérées, et stimulent la délégation de décision, le flux d’information et la transparence. Leur paquet « gestion des ressources humaines » combine la sécurité de l’emploi, une compensation adéquate et de la formation. Cela conduit à un engagement et une confiance fort envers l’organisation. Les conditions incluent des leaders compétents avec une vision explicite, des espaces relativement larges de prise de décision et des ressources adéquates.*

(Marchal et al., 2010, p. 4)

Le niveau de généralisation permet d’expliquer tant la gestion de l’hôpital étudié spécifiquement au Ghana que d’autres organisations hospitalières performantes.

Un second exemple de théorie de moyenne portée, utilisée par Jagosh et al. (2012) pour comprendre l’impact de la cogouvernance dans les processus de recherche participative, est la théorie de la synergie partenariale. Les auteurs expliquent cette théorie :

Appliquée aux interventions participatives dans le secteur de la santé, la théorie soutient que la collaboration de plusieurs participants crée ou améliore les résultats de la recherche au-delà de ce qu’une seule personne ou organisation aurait pu obtenir en travaillant dans les mêmes conditions.*

(Jagosh et al., 2012, p. 318)

La figure 5 montre le positionnement des différents concepts évoqués ci-dessus sur une échelle abstraction / empirie. À l’une des extrémités se trouvent les données – du côté de l’empirie – et de l’autre se trouve la théorie – du côté de l’abstraction. Sur le plan de l’empirie se retrouvent les études empiriques, c’est-à-dire les évaluations réalistes au cours desquelles sont collectées des données empiriques pour comprendre comment fonctionnent des interventions sociales et pourquoi, explicitées sous la forme de configurations Contexte-Mécanisme-Effet. À un degré d’abstraction supérieur se trouvent les théories de moyenne portée qui expliquent comment et pourquoi une famille d’interventions fonctionne, également sous la forme de configurations Contexte-Mécanisme-Effet (CME).

Figure 5

Positionnement des concepts de l’approche réaliste sur l’échelle de l’empirie et de l’abstraction [adapté de Pawson & Tilley (1997, p. 121)]

Positionnement des concepts de l’approche réaliste sur l’échelle de l’empirie et de l’abstraction [adapté de Pawson & Tilley (1997, p. 121)]

-> Voir la liste des figures

Sur le plan pratique : les défis de l’opérationnalisation des concepts de l’approche réaliste

Une des principales difficultés dans l’utilisation de l’approche réaliste pour l’évaluation et la revue systématique concerne l’opérationnalisation des concepts. Marchal et al. (2012) montrent cette difficulté en mettant en évidence les points de divergences dans l’application des concepts de l’approche réaliste dans la recherche sur les systèmes de santé. Les défis méthodologiques de l’utilisation de l’approche réaliste dans le domaine de la santé publique ont également été recensés (Ridde et al., 2011). Une démarche réflexive a été menée par certains auteurs (Byng, Norman, & Redfern, 2005 ; Davis, 2005 ; Mansoor, 2003 ; Perdersen & Rieper, 2008) ; toutefois, elle reste marginale. Dans ces écrits, le concept de mécanisme, ainsi que la distinction entre mécanisme et contexte, comptent parmi les principaux défis.

Dans cette section, nous adoptons également une posture réflexive pour rendre compte, de manière concrète et à partir de notre expérience de revue réaliste sur les PEP, des difficultés à appréhender ces deux notions, et de la manière dont nous les avons surmontées. Sera abordé en dernier lieu un défi particulier de la revue réaliste, celui de délimiter la question de recherche.

Comprendre et opérationnaliser le concept de mécanisme

Malgré notre immersion dans les écrits de Pawson (Pawson, 2006 ; Pawson, Greenhalgh, Harvey, & Walshe, 2004 ; Pawson et al., 2005 ; Pawson & Tilley, 1997), notre première compréhension du concept de mécanisme était teintée par notre formation et notre expertise en évaluation et en santé publique. Si nous avions dès le départ admis que ce concept avait un lien avec les acteurs, nous pensions qu’il pouvait également prendre la forme d’activités ou de composantes de l’intervention. Par exemple, dans le cadre des PEP, nous avons considéré au début de notre travail que notre mode de financement, la disponibilité des médicaments et des ressources humaines, le système de coordination et de suivi / évaluation, etc. étaient des mécanismes. Parallèlement, la motivation et la satisfaction du personnel de santé et des usagers, leur confiance dans le système de santé ainsi que leurs relations semblaient également correspondre à des mécanismes. Nous sommes donc en partie tombés dans le piège d’assimiler le concept de mécanisme à une activité, piège mis en lumière par Astbury et Leeuw (2010).

Notre compréhension a évolué non seulement du fait de lectures répétées sur l’approche réaliste, mais également – et sans doute surtout – grâce aux discussions menées avec nos pairs et des spécialistes de l’approche réaliste. En effet, un réseau s’est créé autour des chercheurs qui tentent l’aventure de l’évaluation ou de la revue réalistes, notamment dans le secteur de la santé, et des rencontres ont eu lieu dans le cadre de formations, d’ateliers ou de conférences. Lors de ces rencontres, les principaux débats portaient précisément sur ce concept de mécanisme et ont permis de mieux en saisir les contours. Les travaux menés actuellement par Breton et ses collègues (Lacouture, Breton, Ridde, & Guichard, 2012) sur le concept de mécanisme contribueront à alimenter ces réflexions.

Toutefois, comprendre ce qu’est le mécanisme selon l’approche réaliste n’est que la première difficulté. La seconde est de reconnaître le ou les mécanismes de l’intervention qui font l’objet de la revue réaliste. Dans la mesure où le mécanisme est généralement caché et non mentionné explicitement dans les écrits qui n’ont pas eu recours à l’évaluation réaliste, cette étape peut prendre un certain temps. Dans l’exemple des PEP, nous avons passé en revue plusieurs écrits théoriques et conceptuels, parfois empiriques, portant sur le recours aux aux services de santé et les déterminants de l’utilisation des services de santé. La particularité de ces politiques est qu’elles ne visent pas directement à modifier un comportement ; elles agissent sur le plan de l’offre de service (Jacobs, Ir, Bigdeli, Annear, & Van Damme, 2012), en supprimant une partie de l’obstacle financier à l’accès aux soins. Elles incitent donc indirectement les usagers qui bénéficient de la suppression du paiement à recourir aux services de santé.

Ce constat étant fait, il n’a cependant pas été aisé de formuler le mécanisme que les PEP sont censés déclencher. Nous avons ainsi d’abord pensé que le mécanisme était le recours aux services de santé, ce qui s’est finalement avéré être l’effet attendu du mécanisme. Nous avons ensuite pensé à recourir aux services de santé comme mécanisme à l’oeuvre. La propension est une intention qui conduit l’acteur à adopter un comportement plutôt qu’un autre (Smits, Champagne, & Blais, 2009). Il semble que toute intervention influence d’une manière ou d’une autre la propension d’un acteur, sans qu’il s’agisse pour autant d’un mécanisme à proprement parler.

Enfin, nous nous sommes intéressés au concept de pouvoir d’agir (Kabeer, 1999 ; Le Bossé, 2003). En effet, les usagers doivent être en mesure de pouvoir choisir d’avoir recours – ou non – aux services de santé gratuits (Currie & Wiesenberg, 2003). Un certain nombre de barrières, dont la barrière financière, limitent cette possibilité (Ensor & Cooper, 2004). Le fait d’éliminer une partie de la barrière financière à l’accès aux soins renforce donc le pouvoir des usagers d’agir en faveur d’un recours aux services de santé moderne. Il s’agit, selon nous, du mécanisme que devraient déclencher les PEP. Une fois ce mécanisme mis en lumière, la théorie de moyenne portée initiale a été reformulée :

Exempter les usagers du prix des services de santé modernes favorise le recours aux services de santé selon les besoins, en créant une opportunité. Cela contribue à renforcer le pouvoir d’agir des usagers qui sont moins contraints à s’endetter pour payer les soins, à arbitrer avec d’autres dépenses essentielles, ou à fréquenter d’autres prestataires de soins.

Cette théorie de moyenne portée a part le suite été testée au regard des études menées sur les PEP l’objectif étant de la préciser en mettant en évidence les contextes favorables ou non au déclenchement du mécanisme.

En résumé, les mécanismes déclenchés par les interventions à l’étude sont difficiles à repérer, du fait même de la difficulté à appréhender le concept de mécanisme. La réflexion autour de ces mécanismes évolue au cours de l’exercice d’évaluation ou de revue réalistes. Elle est le produit des discussions entre les parties prenantes de la recherche (chercheurs, experts de l’approche réaliste, experts de l’intervention à l’étude, etc.), des lectures théoriques, conceptuelles et empiriques (sur l’approche réaliste, sur le concept de mécanisme, sur l’intervention, etc.), et de la posture réflexive qui a été adoptée dès le début de notre recherche.

Une seconde difficulté est de s’extraire du ou des mécanismes déclenchés par l’intervention au palier des bénéficiaires pour comprendre qu’il existe d’autres mécanismes, à d’autres niveaux d’analyse, et qui peuvent concerner d’autres acteurs engagés dans l’intervention. Ce défi est abordé dans la section suivante.

Distinguer les différents niveaux d’analyse

La difficulté de dissocier les éléments du contexte des mécanismes, voire des effets d’une intervention, pour la construction des configurations C-M-E a déjà été soulevée (Ridde et al., 2011) :

Il s’agit en effet d’identifier clairement le niveau d’analyse qui permettra d’observer les régularités des configurations CME qui intéressent le chercheur, un exercice difficile lorsque l’on doit s’ajuster pour permettre, non seulement un niveau de détail pour appréhender l’intervention, mais également un niveau suffisant pour permettre de tester la théorie de moyenne portée.

(p. 52)

Marchal et al. (2012) le rappellent également : « Définir le ‘contexte’ et séparer le ‘mécanisme’ du ‘contexte’ reste une tâche difficile ». (p. 207). En effet, l’analyse ne se situe pas nécessairement uniquement au niveau de l’intervention, comme nous avons pu le voir au cours de notre revue réaliste.

Au niveau de l’intervention, il est assez évident de considérer comme effets l’atteinte de ses objectifs, voire ses effets non attendus. Dans le cas des PEP, les objectifs sont l’augmentation de l’utilisation des services de santé et la baisse des dépenses de santé pour les usagers bénéficiaires de la gratuité des soins. Nous les avons donc considérés comme des effets. Le mécanisme, comme explicité ci-dessus, est le renforcement – chez les usagers – du pouvoir d’agir en faveur d’un recours aux services de santé. Quant au contexte, il est tout ce qui se situe à l’extérieur des effets et du mécanisme. Ainsi, les différentes composantes des PEP, telles que le mode de financement ou les mesures d’accompagnement, font partie du contexte, tout comme l’organisation du système de santé ou encore les caractéristiques socio-économiques des foyers.

Toutefois, le chercheur peut ne pas s’arrêter à ce niveau d’analyse. En effet, l’objectif d’une revue ou d’une évaluation réalistes est de comprendre l’intervention : il est donc pertinent de creuser davantage ces différents éléments qui sont autant de boîtes noires. Ainsi, nous comprenons que chaque contexte, chaque mécanisme et chaque effet est un ensemble de contexte-mécanisme-effet et peut être compris sous la forme d’une ou de plusieurs configurations C-M-E, à la manière des poupées gigognes (voir figure 6). La question de recherche permet au chercheur de se concentrer sur le ou les niveaux d’analyse pertinents.

Figure 6

L’aspect gigogne de la configuration C-M-E

L’aspect gigogne de la configuration C-M-E

-> Voir la liste des figures

Dans notre recherche, nous avons également examiné la mise en oeuvre des PEP et le fonctionnement des systèmes de santé qui – au niveau de l’intervention – font partie du contexte.

Au niveau de la mise en oeuvre de l’intervention, nous nous sommes interrogés sur les agents de santé – puisque ce sont eux qui dispensent les soins de santé gratuits – et le ou les mécanismes au centre de ces processus. Le mécanisme étudié à ce niveau était le «coping » des agents de santé, c’est-à-dire « les réponses, réactions que l’individu va élaborer pour maîtriser, réduire ou simplement tolérer » une situation nouvelle ou un changement (Bruchon-Schweitzer, 2001, p. 68), telles que les PEP. Un des effets observés était le respect ou non par les agents des principes de gratuité des soins et donc les écarts possibles dans la mise en oeuvre des PEP. Compte tenu de nos ressources humaines et financières limitées, nous n’avons toutefois pas pu analyser en profondeur cet aspect des PEP.

Au-delà de l’aspect gigogne de la configuration C-M-E, la valeur relative des concepts « contexte », « mécanisme » et « effet » est également à expliciter pour faciliter l’ajustement du niveau d’analyse. Chacun de ces concepts n’existe que lorsqu’il est mis en relation avec les autres. Ainsi, le mot « contexte » est défini comme un « ensemble de circonstances liées, [une] situation où un phénomène apparaît, un événement se produit » (Analyse et traitement information de la langue française, 2005). De même, un mécanisme est une « combinaison de pièces, d’organes agencés en vue d’un mouvement, d’un fonctionnement d’ensemble » (Analyse et traitement information de la langue française, 2005). Un mécanisme n’existe donc que lorsqu’il est mis en perspective avec un contexte et un effet, sinon il n’est que l’attitude ou le comportement d’un acteur. Enfin, un effet est produit par quelque chose, il a un élément déclencheur. Il s’agit donc bien de concepts relatifs.

Dans cette perspective, un effet (E) est le résultat d’un mécanisme dans un certain contexte, mais peut être un contexte (C) par rapport à un autre effet ou un mécanisme (M). Par exemple, la prestation gratuite de soins pour les enfants de moins de cinq ans (C) contribue à renforcer le pouvoir des mères d’agir en faveur d’un recours aux services de santé pour leurs enfants (M). Dans certains contextes (C), cela conduit les mères à recourir effectivement aux services de santé (E), ce qui se traduit par l’augmentation de la fréquentation des services de santé pour les enfants de moins de cinq ans. L’augmentation de la fréquentation contribue à réduire les stocks de médicaments disponibles qui ne sont pas renouvelés régulièrement (C). Dans ce contexte, les agents de santé développent un mécanisme de «coping» (M) pour faire face à la situation, ce qui se traduit par un recours à leur propre jugement professionnel pour exempter des frais de médicaments uniquement les enfants de moins de cinq ans des familles les plus pauvres (E). Cette pratique constitue un contexte défavorable dans lequel les mères ne sont plus assurées de bénéficier de médicaments gratuits (E), limitant le mécanisme de renforcement du pouvoir d’agir des mères en faveur d’un recours aux services de santé pour leurs enfants. Cet exemple montre qu’un effet – l’augmentation de la fréquentation des services de santé pour les enfants de moins de cinq ans – dans une certaine configuration C-M-E peut devenir un contexte dans une autre configuration C-M-E. L’exemple montre également qu’un mécanisme – le renforcement du pouvoir d’agir des mères en faveur d’un recours aux services de santé modernes pour leurs enfants de moins de cinq ans – dans une configuration peut devenir un effet dans une autre configuration. Cela illustre enfin les notions de temporalité et d’émergence caractéristiques de la complexité d’une intervention, mentionnées dans le tableau 1.

Ainsi, les concepts de « contexte », de « mécanisme » et d’« effet » de l’approche réaliste n’existent que lorsqu’ils sont mis en relation les uns avec les autres. Ils sont interchangeables selon l’angle de vue et le niveau d’analyse. La configuration C-M-E doit donc être comprise comme un outil d’analyse dynamique.

Délimiter la question de recherche pour la revue réaliste

Comme mentionné plus haut, la question de recherche traditionnelle de l’évaluation et de la revue réalistes est : l’intervention fonctionne-t-elle, comment, pour qui et dans quelles circonstances ? Toutefois, cette question est très large et peut donner naissance à plusieurs recherches de type réaliste. C’est pourquoi le premier défi d’une revue réaliste est de bien circonscrire la question de recherche à laquelle on cherche à répondre, un processus « fastidieux » et « continu » (Pawson, 2006, p. 80) qui se produit communément dans les recherches qualitatives.

En effet, dans la recherche qualitative, la construction de l’objet de recherche se fait de manière progressive, au fur et à mesure des connaissances acquises par la recension des écrits, et par la collecte et l’analyse de données empiriques (Deslauriers & Kérisit, 1997). Elle est itérative. Si ce processus d’itération existe également pour la revue réaliste, il est limité à la littérature sur laquelle se base la revue. Ainsi, ce n’est pas tant la connaissance de l’objet qui alimente le processus de construction de la question de recherche que l’appropriation et la disponibilité de la littérature (documents, articles scientifiques, rapports de recherche, etc.) qui en délimite les contours.

Dans notre recherche, nous pensions pouvoir mettre en relation certaines modalités des PEP, comme certaines mesures d’accompagnement (par ex., augmentation de salaires, formation, etc.) ou de financement (par ex. remboursement sur factures), analysées comme contexte, avec des effets sur l’utilisation des services de santé. Toutefois, un obstacle majeur est rapidement apparu. En effet, les PEP sont mises en oeuvre dans plus d’une quinzaine de pays africains, notamment en Afrique de l’Ouest (Robert & Samb, 2012), et comme toute intervention complexe, elles ont de multiples composantes qui évoluent constamment avec la pratique. Les modalités de chaque PEP dans chaque pays auraient pu faire l’objet d’une étude approfondie, ce qui aurait impliqué de retracer tout document expliquant la politique, le contexte et les effets, si tant est que de tels documents eussent existé. Or, entreprendre un tel chantier était impossible considérant les ressources à notre disposition.

Parallèlement à ce processus, nous avons poursuivi nos réflexions autour des mécanismes à l’oeuvre dans le cadre des PEP, puis nous avons finalement décidé de se concentrer sur le mécanisme de renforcement du pouvoir d’agir en faveur d’un recours aux services chez les bénéficiaires des PEP. Cela a permis de préciser la question de recherche ainsi : Comment la suppression d’une partie de la barrière financière par les PEP influence-t-elle le recours aux services de santé moderne en Afrique subsaharienne ?

Au cours du processus d’exploration des études menées sur les PEP, nous avons constaté que les deux thèmes le plus souvent abordés étaient, d’une part, les effets des PEP, notamment en termes d’utilisation des services par les usagers, et d’autre part, la mise en oeuvre des politiques (Ridde, Robert, & Meessen, 2012). Bien qu’abondante, cette littérature s’est révélée insuffisante pour répondre à notre nouvelle question de recherche centrée sur le recours aux services de santé. Il a donc fallu repenser les critères d’inclusion et d’exclusion des écrits dans la revue afin de pouvoir intégrer des études portant sur l’accès ou le recours aux services de santé dans un contexte de gratuité dans les pays d’Afrique subsaharienne.

Conclusion

Toute évaluation est ancrée dans une tradition ontologique propre au chercheur qui la mène (Bégin, Joubert, & Turgeon, 1999 ; Scotland, 2012). De manière générale, cette tradition se devine plus qu’elle n’est affichée dans les écrits, par le devis utilisé ou la méthode choisie. L’évaluation et la revue réalistes sont, quant à elles, explicitement ancrées dans le réalisme critique, ce qui fait leur spécificité. Il est donc essentiel d’en maîtriser les fondements et les concepts, afin d’assurer la validité et la crédibilité de la recherche évaluative. L’approche réaliste nécessite un temps d’apprentissage qui peut être long, et qu’il ne faut pas négliger, au risque de vider les concepts de leur sens.

Pourtant, comprendre les concepts et savoir les opérationnaliser sont deux étapes distinctes. Alors que les écrits conceptuels et théoriques sur l’approche réaliste ne manquent pas, les témoignages de la pratique de l’évaluation et de la revue réalistes sont relativement rares. Le projet RAMESES – Realist and meta-narrative evidence synthesis: Evolving Standards (Greenhalgh, Wong, Westhorp, & Pawson, 2011) – est une initiative salutaire pour mutualiser les connaissances et expériences de la revue réaliste et améliorer les pratiques. Dans le cadre de ce projet, des lignes directrices pour présenter les revues réalistes (Wong, Greenhalgh, Westhorp, Buckingham, & Pawson, 2013), ainsi qu’un document pédagogique proposant un certain nombre de bonnes pratiques pour la revue réaliste (Wong, Westhorp, Pawson, & Greenhalgh, 2013) ont été récemment publiés. Le dialogue entre la théorie et la pratique doit se poursuivre, afin que l’évaluation et la revue réalistes se « démocratisent », y compris parmi les francophones.

Dans cette perspective, voici quelques questions pour alimenter les réflexions et orienter les discussions :

  • Quelles sont les difficultés rencontrées par les praticiens de l’évaluation et de la revue réalistes ? Comment les ont-ils surmontées ?

  • Comment les mécanismes sont-ils formulés dans les évaluations et les revues réalistes ? Pourrait-on en dresser un portrait et les organiser selon une classification ?

  • Comment les chercheurs ont-ils mené leurs analyses de données dans le cadre d’évaluations et de revues réalistes ? Quels sont les démarches, les méthodes d’analyse, et les instruments utilisés ? Quels en sont les avantages et les inconvénients ?

  • Comment l’évaluation et la revue réalistes sont-elles perçues par les commanditaires et décideurs ? Quelle utilité ont-elles à leurs yeux et pour leurs décisions ?

Nous espérons que ces questionnements permettront de faire avancer les connaissances sur l’approche réaliste en évaluation et de contribuer à combler le fossé entre la théorie et la pratique en évaluation (Chelimsky, 2013).