Upload
buingoc
View
214
Download
0
Embed Size (px)
Citation preview
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 1
LES INDICATEURS POUR LES NULS (EN ESSMS)
1. La place des indicateurs dans les ESSMS
L’importance des indicateurs dans le pilotage d’un ESSMS implique, pour les personnels de direction l’acquisition d’un minimum de repères. Ce complément apporte dans un premier temps, une réflexion sur la nature des indicateurs puis sur des explications imagées de l’utilisation élémentaire des statistiques incontournables.
a. La nature des indicateurs
Si on recherche sur internet le mot « indicateur », on trouve sur Wikipédia des indicateurs économiques avec une définition barbare : « En économie, un indicateur est une statistique
construite afin de mesurer certaines dimensions de l’activité économique, ceci de façon aussi
objective que possible. Leurs évolutions ainsi que leurs corrélations avec d'autres grandeurs sont
fréquemment analysées à l'aide de méthodes économétriques».
Si on recherche « indicateur scolaires » on trouve des sites qui parlent de « Taux de réussite » de
toutes sortes.
Parfois on voit apparaître le mot indice à la place d’indicateur. Si on recherche sur internet on trouve
des exemples comme l’indice de la construction mais rien sur des indices scolaires.
La recherche dans le dictionnaire Larousse pour le mot « indice » donne : « Signe apparent qui
indique avec probabilité ». Si on regarde la définition de l’indicateur on trouve énormément de
définitions qui sont surtout des exemples : « indicateur de niveau » ; « indicateur de
pression » ;……sans parler des indicateurs de police !!!
Toute cette imprécision est assez dérangeante car dans tous les discours les responsables utilisent des
indicateurs pour justifier leurs politiques.
Il est légitime de donner un sens précis à ces termes.
D’après les définitions du Larousse on suppose qu’un indicateur est une méthode pour faire
correspondre à toutes les situations connues un nombre. C’est bien le cas de la note qui à tout devoir
d’usager fait correspondre un nombre sur un total de vingt points.
Plutôt que donner une nouvelle définition de l’indicateur nous allons préciser ce que nous appelons
indicateurs et indices correspondants :
Il y a trois sortes d’indicateurs suivant le niveau où on se place. Ce sont, comme dirait Monsieur de
La Palice, les indicateurs sur des personnes physiques qui se placent au niveau de l'individu (usagers,
résidents, personnels), les indicateurs de services qui se placent au niveau d'un sous groupe
(infirmières, service de malades, restauration,..) et les indicateurs d'établissements qui se placent au
niveau de l’établissement.
b. Indicateurs d’usagers et de personnels
Un indicateur d’usagers est une façon pragmatique de faire correspondre à tout usager (ou tout
personnel) d’un groupe connu de l’établissement une information qui dans la grande majorité des
cas est un nombre ou un mot.
Exemple : La liste des usagers et la liste de leur âge ou la liste des usagers et leur nom.
L’important dans un indicateur c’est de connaître l’ensemble précis du contexte et en particulier être
capable de lister les usagers et de faire correspondre à chaque usager la valeur de l’indicateur (ici
l'âge ou le nom).
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 2
Quant on ne connaît l'âge d'un seul individu c'est un indice, c'est-à-dire un élément de l’indicateur.
L’indice apporte une indication très faible (sauf si le contexte est bien connu). Cependant cet indice a
la propriété d’attirer l’attention. Par exemple savoir que l'âge minimum dans un service est de 81 ans
est un indice. On ne peut rien déduire de cette donnée sur l'usager mais on peut penser qu'on est dans
un service de gériatrie.
c. Indicateurs de services
C’est la même idée mais à la différence de prendre comme individu un usager ou un personnel on
prend le service.
Par exemple les budgets d’un établissement service par service pour l'année 2008.
L’indicateur fait correspondre à chaque service son budget pour l'année 2008.
d. Indicateurs d’établissements
Là encore on fait appel aux mêmes idées mais l’élément de base est l’établissement. Pour pouvoir
parler d’indicateurs, il faut avoir un ensemble d’établissements et si possible un ensemble important.
C'est le point de vue des services départementaux ou de l'ARS.
Le GMP (GIR moyen pondéré) est un indice pour attribuer l'APA(Aide au Personnes Âgées)
L'ensemble des GMP est l'indicateur qu'utilise un département pour établir son budget sur l'aide aux
personnes âgées.
e. Les autres types d’indicateurs
Les types d’indicateurs sont très nombreux. Par exemple il se peut que le résultat soit une image.
C’est le cas du trombinoscope. Il se peut aussi que les objets étudiés soient indexés par le temps
(Tableau des GMP en fonction des années pour un EHPAD).
f. Les indicateurs et le temps
Si on a un indice pour un usager (exemple GIR actualisé par mois) et que l’on suit cet indice sur
plusieurs mois, voire années, on a forcément une information plus riche et qui est porteuse de
prédictions. C’est un indicateur dont les individus sont les instants où l'information est relevée (pour
notre exemple les mois) . Ces indicateurs sont un peu particuliers car ils transportent l’information
liée à la chronologie. On passe un peu de la photo au cinéma ! Comme exemple on peut évoquer les
relevés de température d'un malade, l'évolution de la dimension d'une tumeur, le nombre d'absences
de personnels d'un hôpital sur l'année, etc.
i. Les tableaux de bord chronologiques
La possibilité de regrouper dans un tableau, différents indicateurs chronologiques, donne des
informations intéressantes. Nous allons donner quelques éléments de méthode pour mettre en place
un tableau de bord à partir d'un questionnaire de satisfaction des usagers d'un hôpital.
Voici quelques questions issues d'un questionnaire réel:
Prise de contact téléphonique Très
satisfaisant Satisfaisant
Assez satisfaisant
Peu satisfaisant
Insatisfaisant Catastrophique
Délais de rendez-vous Très
satisfaisant Satisfaisant
Assez satisfaisant
Peu satisfaisant
Insatisfaisant Catastrophique
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 3
Amabilité, courtoisie Très
satisfaisant Satisfaisant
Assez satisfaisant
Peu satisfaisant
Insatisfaisant Catastrophique
Explications fournies sur le déroulement de l'intervention Très
satisfaisant Satisfaisant
Assez satisfaisant
Peu satisfaisant
Insatisfaisant Catastrophique
Déroulement des formalités administratives Très
satisfaisant Satisfaisant
Assez satisfaisant
Peu satisfaisant
Insatisfaisant Catastrophique
Par exemple la troisième question sur l'amabilité pour le premier trimestre 2006, une fois dépouillée,
donne les résultats suivants
Amabilité, courtoisie Très
satisfaisant Satisfaisant
Assez satisfaisant
Peu satisfaisant
Insatisfaisant Catastrophique
20% 65% 5% 7% 3% 0%
Si on désire suivre l'évolution du fonctionnement de l'hôpital, on sera amené à simplifier ces données.
Un technique habituelle est de construire un indice de satisfaction en faisant la somme des résultats
dans la partie verte (trois premières cases) qui devient alors un indice de satisfaction pour l'Amabilité
et la Courtoisie.
Le résultat gardé sera : 90% en additionnant les valeurs positives 20%+65%+5%
Sur le plan technique on dépouille les questionnaires chaque trimestre et on reporte les résultats
dans un tableau, pour se donner une idée de la qualité du service tout au long de l'année.
Le tableau ci-dessous (un extrait) donne une idée la réalisation pratique.
2009 2010 2011
Indicateur de satisfaction des usagers
Trim
estr
e 1
Trim
estr
e 2
Trim
estr
e 3
Trim
estr
e 4
Trim
estr
e 1
Trim
estr
e 2
Trim
estr
e 3
Trim
estr
e 4
Trim
estr
e 1
Trim
estr
e 2
Trim
estr
e 3
Trim
estr
e 4
Prise de contact
téléphonique 83% 85% 77% 77% 67% 68% 87% 87% 89% 88% 85% 92%
Délais de rendez-vous 32% 35% 30% 28% 29% 50% 52% 51% 55% 52% 56% 50%
Amabilité, courtoisie 83% 85% 77% 77% 67% 68% 87% 87% 89% 88% 85% 92%
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 4
Explications fournies sur
le déroulement de
l'intervention
57% 60% 55% 55% 53% 52% 63% 63% 65% 66% 63% 62%
Déroulement des
formalités administratives 78% 76% 66% 66% 65% 64% 82% 82% 80% 85% 82% 79%
En observant les résultats on détermine facilement qu’au début de l'année 2008 la qualité de l'accueil
téléphonique s'est dégradée pendant deux mois, certainement suite à un problème de maladie.
ii. Les processus ou l’analyse des indicateurs dans le temps
Pour facilité la lecture et l'analyse on utilise la courbe suivante qui donne une vision globale de
l'évolution dans le temps.
Pour faciliter la lecture du tableau des résultats, le plus simple est de transformer ces données en
courbes.
50%
55%
60%
65%
70%
75%
80%
85%
90%
95%
Prise de contact téléphonique
Prise de contact téléphonique
Remplacement
difficile
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 5
Courant du second trimestre 2010, les évolutions positives (croissantes) des courbes montrent qu'une
réorganisation a été réalisée par l'équipe de direction.
Quand on veut aller plus loin dans l'analyse la richesse des données est plus un handicap qu’un
avantage. Pour analyser l’information apportée par ces données il faut des techniques sophistiquées.
On a de fait un ensemble de processus à une dimension (une seule question dans le temps) liés entre
eux. Les théories d’analyse s’appellent analyse des processus multi-variés. Au delà de la
représentation graphique ces techniques sont sans intérêt pratique pour une direction tant qu'on n'est
pas au niveau régional ou national. Au niveau d'un département ou d'une administration comme
l'ARS, avec plus de données, l’utilisation d’outils d’analyse des processus multi-variés proposerait
des outils de prévision intéressants. Dans la pratique on est loin de cette vision là.
2. La forme des indicateurs couramment utilisés
a. Les indicateurs « dit objectifs »
Les indicateurs utilisés généralement par les établissements sont des données objectives et
descriptives.
Comme indicateurs d’usager on trouve : l’âge, la profession des usagers, etc.
Comme indices d'établissement on trouve les GIR, les Pathos, Les dotations, le nombre de résidents,
la surface des bâtiments,.... ..
Ces indices d'établissements regroupés permettent de créer des indicateurs au niveau des instances
dirigeantes (Conseil Général, ARS, etc.).
Tous ces indicateurs ont pour avantage d’être apparemment incontestables et pour limite leur
incapacité de décrire directement la qualité relationnelle du fonctionnement de chaque établissement.
b. Les opinions élémentaires
La prise en compte de l’opinion des usagers et du personnel est au centre d’une direction efficace.
Les indicateurs les plus adaptés qui permettent de mesurer les opinions sont ce que nous nommerons
« opinions élémentaires » et que l’on trouve sous la forme d’échelle. Pour les usagers (ou les
personnels), ce sont des indicateurs qui associent à tout individu du groupe concerné, des valeurs
ordonnées comme l’exemple du tableau ci-dessous :
0%
10%
20%
30%
40%
50%
60%
70%
80%
90%
100%
Trim
estr
e 1
Trim
estr
e 2
Trim
estr
e 3
Trim
estr
e 4
Trim
estr
e 1
Trim
estr
e 2
Trim
estr
e 3
Trim
estr
e 4
Trim
estr
e 1
Trim
estr
e 2
Trim
estr
e 3
Trim
estr
e 4
Prise de contact téléphonique
Délais de rendez-vous
Amabilité, courtoisie
Explications fournie sur le déroulement de l'intervention
Réorga-
nisation
des
services
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 6
Très satisfaisant Satisfaisant Assez satisfaisant Peu satisfaisant Insatisfaisant Très insuffisant
ou toute autre réponse ordonnée.
Ce type d’indicateur je l’ai nommé opinions élémentaires, car celles-ci ressemblent aux informations
données par les sens. Pour les yeux par exemple on dira
Éblouissant Lumineux Assez lumineux Sombre Très sombre Noir
On retrouverait aussi des qualificatifs identiques pour le bruit et pour le toucher
Si les sens donnent des informations ordonnées, c’est que ces dernières sont nécessaires à notre
appréhension du monde extérieur dans sa diversité et sa globalité. Il n’est pas étonnant que les
questions qui essaient d’appréhender la complexité du monde des relations prennent des formes
comparables.
Dans les deux exemples que j’ai présentés, il y a 6 réponses possibles, 3 positives et trois négatives.
Pour quelle raison ?
Ce type d’indicateurs a pour objectif d’appréhender une situation inconnue et où on désire mesurer la
proportion des satisfaits ou des capables. On recherche à se déterminer sur la proportion des
personnes satisfaites et par différence celles qui sont insatisfaites. Comme souvent il s’agit de
déclaratif, il est nécessaires que les possibilités soient divisées en positif et en négatif (Les satisfaits
et les insatisfaits). On pourrait imaginer un indicateur avec uniquement deux cases :
Satisfaisant/insatisfaisant ; Travailleur/fainéant ; blanc/noir.
Mais on se rend compte que c’est une information trop grossière et qui risque de ne pas être fiable.
Voici deux des raisons parmi bien d’autres.
Quand on demande l’opinion d’une personne sur ce qu’elle vit, dans sa réponse rentre en
compte son sentiment mais aussi son caractère. S’il n’y a que deux possibilités un personne
qui est plutôt satisfaite mais très partagée risque de répondre négativement si elle est du genre
pessimiste. A contrario une personne respectueuse des autres qui serait insatisfaite et indécise,
risque de répondre positivement, préférant être imprécise plutôt que d’être injuste.
On pourrait penser que les pessimistes compensent les optimistes. C’est en partie vrai mais la
possibilité de deux réponses rend les informations moins fiables. Les nuances permettent à
chacun de trouver une réponse plus adaptée à son opinion et à son caractère.
L’autre raison est dans l’utilisation des résultats. Si on sait qu’il y a 60% des personnes qui
sont satisfaites et que l’on désire améliorer le service, on n’aura pas la même politique si ces
60% se décomposent en 20% de très satisfaits ; 30% de satisfaits et 10% d’assez satisfaits que
s’il s’agit de 40% de très satisfaits ; 15% de satisfaits et 5% d’assez satisfaits. Dans le premier
cas une bonne politique améliorera les résultats et dans l’autre, elle sera peu efficace. Les
nuances sont donc nécessaires. Alors combien de nuances ? et pourquoi trois positives et trois
négatives ? Il n’y a pas de règle logique et indiscutable mais on doit ici aussi se baser sur les
évaluations spontanées de la vie de tous les jours. Quand on parle de la taille des personnes on
les partage en première approximation en trois catégories : petit, moyen et grand. Il en est de
même de beaucoup de jugements : la couleur (claire, normale, foncée) la richesse (riche, aisé,
pauvre) etc..
D'où la proposition suivante: trois réponses du type positif (Très satisfaisant ; Satisfaisant ; Assez satisfaisant) et trois réponses de type négatif (Peu satisfaisant ; Insatisfaisant ; Très insuffisant) on obtient ainsi six cases :
Très satisfaisant Satisfaisant Assez satisfaisant Peu satisfaisant Insatisfaisant Très insuffisant
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 7
Tout ceci est fort discutable, mais la pratique tranche pour cette solution ; avec des indicateurs
structurés en trois réponses positives et trois négatives on a des outils assez fiables et pas trop
complexes.
Comme pour tout indicateur il ne faut pas sacraliser les résultats mais ne jamais perdre de vue qu’un seul résultat est toujours suspect et qu’il faut le consolider par toutes sortes d’informations.
c. Les indicateurs à réponses multiples Une question à réponses multiples est une question où plusieurs choix non ordonnés sont proposés. Ces questions sont utilisées pour éviter de poser autant de questions qu’il y a de réponses proposées. Voici une question à choix multiples :
On aurait pu poser la question pour chacune des réponses sous forme d'opinion élémentaire : Avez-vous des problèmes de santé ? Et proposer les réponses ; « Énormément » ; « Beaucoup » ; « Pas trop » ; « Assez peu » ; « Pas du tout » ; « Je suis en pleine forme ». Puis faire de même pour les autres items. En utilisant une question à choix multiples le questionnaire gagne en clarté et en place. Mais la contrepartie de cette façon de faire est une perte d’informations importantes par rapport aux opinions élémentaires correspondantes. Le choix dépend des enjeux et des objectifs du questionnaire.
3. Les indicateurs pour les nuls
Ce texte s’adresse aux étudiants qui n’ont pas une culture scientifique et qui ont besoin de commenter des indicateurs. La notion de moyenne est généralement acquise mais l’interprétation des indices de dispersion (comme l’écartype) ou la manipulation des tableaux croisés est souvent délicate. Heureusement les logiciels d’enquête permettent de manipuler des statistiques et d’exploiter les données sans avoir des connaissances approfondies. Il faut cependant avoir un minimum de notions intuitives pour comprendre ce que l’on fait.
a. De l’évaluation à la statistique Quand on fait de l’évaluation on est amené à analyser les réponses qu’on a obtenues à partir de questionnaires. Les questions les plus fréquentes sont des échelles que nous avons nommées opinions élémentaires. D'autres questions sont des questions à choix multiples. Pour une question du type opinion élémentaire, on a autant de réponses que de personnes interrogées. Ce qui génère un ensemble de nombres que l’on essaie d’interpréter. Le but de la
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 8
Statistique est de résumer en quelques indices le comportement de cet ensemble de valeurs. Le plus connu de ces indices est la moyenne. Il y a bien d’autres indices comme la médiane et l’écartype. Quand on a analysé les réponses à une question, on essaie de caractériser les réponses à deux questions puis trois et ainsi de suite. L’analyse simultanée de deux questions est plus complexe que l’analyse de chacune de ces deux questions séparément. Plus que la nature des résultats on est amené à regarder le lien entre les questions. Pour cela on crée des tableaux croisés. Au delà de deux questions les techniques sont complexes et pour la majorité des cas pratiques peu utiles.
b. Les indices associés aux opinions élémentaires
Quant on a un indicateur sous forme d’une opinion élémentaire pour réaliser les premières analyses
on doit penser à 4 indices courants : La moyenne, l’écart à la moyenne (appelé écartype) et les
extrêmes. Peu importe la définition exacte de ces termes mais il est important pour un évaluateur de
comprendre l’objectif de ces indices.
Ces indices ont pour objectif de se donner très rapidement une idée de la distribution (répartition) des
usagers sous le regard de l’indicateur. C’est à dire la façon dont le groupe a répondu.
Prenons un exemple pour comprendre.
On demande à des usagers : quel souvenir gardez-vous de votre dernier mois de travail ?
Les réponses proposées sont :
+++ ++ + - -- ---
Qu’on représente par des valeurs numériques de 3 à -3:
Réponses proposées
+++ ++ + - -- ---
Codage 3 2 1 -1 -2 -3
Pour simplifier l’exemple on suppose que l’on interroge 200 employés.
Les données récoltées sont alors :
Réponses proposées
+++ ++ + - -- ---
Codage 3 2 1 -1 -2 -3 Nombre d’ employés 60 76 36 8 2 18
Pourcentage 30% 38% 18% 4% 1% 9%
Si on représente les employés un à un (ici par un rond), on a le tableau suivant :
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 9
La valeur centrale des graduations se trouve être 0 ; Cette valeur est importante lorsqu’on pose la question mais ne permet pas d’analyser les réponses. Ce qui prend en compte les réponses c’est la moyenne. Les réponses étant décentrées il est normal que la moyenne des réponses se déplace vers la gauche. La moyenne a ici la valeur 1,51. Ce qui est normal car il y a plus de réponses positives que négatives. Calcul de la moyenne Pour information donnons la méthode de calcul et le raisonnement qui va avec. Si vous êtes allergique aux calculs « sautez » le paragraphe. Si on raisonne de la façon suivante. Chaque individu a un poids (son importance) de 1/200 car il représente 1 individu sur 200. S’il choisit la réponse codée « 2 » il apportera deux fois plus que s’il avait coché la réponse 1. S’il coche « 1 » il apporte 1/200 de point soit 0,005 points ; s’il coche « 2 » il apporte 2x1/200 de point soit 0,01 point. Pour la valeur 3 on a 60 employés qui apportent chacun 1/200
ème de point soit 60x(3/200) = 0,9 point
Pour la valeur 2 on a 76 employés qui apportent chacun 2/200ème
de point soit 76x(2/200) = 0,76 point Pour la valeur 1 on a 36 employés qui apportent chacun 1/200
ème de point soit 36x(1/200) = 0,18 point
Pour la valeur -1 on a 8 employés qui « perdent » chacun 1/200ème
de point soit 8x(1/200) = 0,04 point Pour la valeur -2 on a 2 employés qui « perdent » chacun 2/200
ème de point soit 2x(2/200) = 0,02 point
Pour la valeur -3 on a 8 employés qui « perdent » chacun 3/200ème
de point soit 18x(3/200) = 0,27point La moyenne et donc de 0,9+0,76+0,18-0,04-0,02-0,27 = 1,51 que nous arrondirons à la valeur de 1,5
La moyenne n’est pas une information suffisante pour décrire un groupe et la représentation ci-
dessus est trop lourde pour être utilisée. Dans le langage courant on a« le gros de la troupe » pour
désigner les employés qui ne s’écartent pas trop de la moyenne. Pour repérer les employés qui ne
sont pas dans le gros de la troupe on les positionne par rapport à la moyenne.
Pour positionner chaque individu on calcule la distance de sa réponse à la moyenne. Ainsi un individu qui répond avec deux plus (réponse 2) on calcule la distance entre 2 et 1,5 qui est de 0,5.
La
mo
yen
ne
-2 -1 -3 1 2 0 3 1,5
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 10
Si l’individu a répondu par trois moins (réponse -3) sa distance à la moyenne est de 4,5. D’où le graphique des écarts Avant de parler du tableau des écarts, il faut faire quelques remarques d’ordre « philosophique». Même si les mathématiques laissent un souvenir de vérité « vraie » on voit dans cette façon de représenter les résultats qu’on est dans le monde de l’imaginaire (qui veut dire monde de l’image). En effet l’usager qui répond n’a pas le choix de répondre zéro qui serait la valeur entre un plus et un moins. D’ailleurs les indécis le font parfois. Le 0 est donc une valeur imaginaire qui caractérise une position neutre entre ceux qui ont gardé un bon souvenir de leur travail et ceux qui en ont gardé un mauvais. La moyenne est encore plus une image « fabriquée » de toute pièce (d’autres valeurs centrales sont utilisées comme la médiane). Contrairement aux croyances populaires la statistique n’a pas la prétention d’atteindre « La vérité », mais de donner une image de la réalité qui nous aide à mieux comprendre. C’est d’ailleurs un objectif plus satisfaisant car ce que nous appelons la réalité n’ est que des images formées par notre cerveau qui nous permettent de mieux vivre. Ce côté imaginaire de la statistique explique l’importance qu’elle a dans l’analyse du fonctionnement des groupes. Le fonctionnement des groupes étant très complexe, nous avons besoin d’images pour nous situer. Afin de vivre ensemble, il est important que ces images soient partagées par le plus grand nombre d’acteurs. Ce besoin d’images partagées explique l’importance des questionnaires associés à la statistique. Le couple « questionnaire, statistique » est un couple d’une efficacité redoutable qui fabrique des images du relationnel au sein des groupes. Revenons à notre explication. Notre but est de déterminer autour de la moyenne une zone dans laquelle les employés seront « dits» appartenir au groupe. Les écarts à la moyenne donnent le tableau suivant :
Réponses proposées
+++ ++ + - -- ---
Codage 3 2 1 -1 -2 -3
Écarts à la moyenne
1,5 0,5 0,5 2,5 3,5 4,5
Nombre d’employés
Pourcentage Par réponses
30% 38% 18% 4% 1% 9%
Les valeurs des
réponses
Les valeurs des
écarts 1,5 0,5 0 0,5 2,5
-2 -1 -3 1 2 0 3 1,5
3,5 4,5
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 11
Pour dire qu’un individu est dans le « gros de la troupe » on va dire que cet individu s’écarte moyennement de la moyenne. Cet écart moyen sera simplement calculé par la moyenne des écarts. Qui est ici 1, 27 que nous arrondirons à 1,3 Pour ceux qui veulent plus de détail on a : Pour l’écart de 1,5 on a 60 employés qui apportent chacun 1/200
ème de point soit 60x(1,5/200) = 0,45 point
Pour l’écart de 0,5 on a 76 employés qui apportent chacun 2/200ème
de point soit 76x(0,5/200) = 0,19 point Pour l’écart de 0,5 on a 36 employés qui apportent chacun 1/200
ème de point soit 36x(0,5/200) = 0,09point
Pour l’écart de 0,5 on a 8 employés qui « perdent » chacun 1/200ème
de point soit 8x(2,5/200) = 0,01 point Pour l’écart de 0,5 on a 2 employés qui « perdent » chacun 2/200
ème de point soit 2x(3,5/200) = 0,035 point
Pour l’écart de 0,5 on a 8 employés qui « perdent » chacun 3/200ème
de point soit 18x(4,5/200) = 0,405point Ce qui fait un total de 0,45+0,19+0,01+0,035+0,450= 1,27
Pour qu’un individu soit dans le « gros de la troupe » il faut qu’il soit écarté de la moyenne d’une valeur inférieure à 1,3. Pour être dans le gros de la troupe il faut avoir répondu moins de 1,5 + 1,3 = 2,8 ou plus de 1,5- 1, 3 = 0,2. D’où le graphique : Ainsi ceux qui ont répondu par deux plus (+ +) ou un plus (+) sont considérés comme étant dans le gros de la troupe. Ceux qui ont répondu trois plus (+++) sont des employés qui ont un souvenir meilleur que la moyenne des employés. Enfin les employés qui ont répondu par des moins sont des employés qui ont un plus mauvais souvenir de l’école primaire que la moyenne. C’est certainement dans cette zone qu’on aura le plus de chance de trouver les employés en difficulté. Pour des raisons strictement mathématiques l’écart moyen de 1,3 que j’ai calculé est rarement utilisé quoique son calcul soit le plus facile. On utilise un autre type d’écart moyen appelé écartype que vous trouverez sur Excel [=ÉCARTYPE(C4:H4)]. La valeur trouvée par Excel est de 1,7. Cette valeur étant plus forte ce qui englobe les réponses des employés qui ont coché la case trois plus (+++). Là aussi on se rend compte que les types d’outils qu’on utilise modifient la perception de la réalité. Ce n’est pas plus gênant que dans la vie courante où, suivant votre vue et les lunettes que vous portez, la réalité diffère. Ce qui reste important c’est que le groupe de tous les acteurs d’un établissement puissent avoir des points de vue communs. Peu importe les outils humains ou techniques utilisés.
c. Les représentations graphiques habituelles d’un indicateur
La représentation graphique est une technique très synthétique et très « parlante ». Vous
connaissez peut-être l’expression : « il vaut mieux un bon graphique qu’un long discours ». Elle
est commode car elle est simple à lire et facile à mettre en œuvre sur Excel.
0
Les valeurs des
réponses -3 1,5 1 2 3 -2 -1
Les valeurs des
écarts 4,5 3,5 2,5 0,5 0 0,5 1,5
Le gros
de la troupe
0,2 2,8
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 12
Avec les mêmes données que ci-dessus :
Réponses proposées
+++ ++ + - -- ---
Codage 3 2 1 -1 -2 -3 Nombre
d’employés 60 76 36 8 2 18
Pourcentage 30% 38% 18% 4% 1% 9%
i. Les diagrammes en bâtons
Quel souvenir gardez-vous de l’école primaire ?
La lecture du graphique est plus globale que celle des tableaux de nombre. Le graphique désigne
automatiquement les employés en opposition. Ici un groupe important a un mauvais souvenir de son
travail. La conséquence sur la politique d’établissement est immédiate.
Note : On remarquera que le graphique est identique si on prend les valeurs brutes ou les valeurs en pourcentage. Faites
l’expérience sur Excel si vous n’en êtes pas convaincu.
a) Les secteurs
0
20
40
60
80
100
120
140
160
180
200
3 2 1 -1 -2 -3
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 13
Les secteurs sont une représentation commode pour communiquer mais moins facile à analyser que les diagrammes en bâtons.
d. L’analyse de deux indicateurs : les tableaux croisés
La connaissance de deux indicateurs sur un même groupe est bien plus riche que la juxtaposition des connaissances apportées par chaque indicateur. C’est la notion de croisement d’indicateurs. Voici un exemple que nous prenons dans le monde de l'éducation pour bien comprendre l’intérêt et le fonctionnement des tableaux croisés. Dans une classe de 32 élèves, on demande aux professeurs d’estimer les capacités des élèves et les comportements. La direction propose pour cela les grilles suivantes qu’ils remplissent: Pour la capacité :
Nombre d’élèves capables
Nombre d’élèves moyennement
capables
Nombre d’élèves peu capables
Total
19 10 3 32
Nombre d’élèves stables
Nombre d’élèves peu stables
Nombre d’élèves instables
Total
17 11 6 32
Si on essaie d’estimer d’après ces données, les élèves qui sont aptes à réussir, on peut raisonner sur le premier tableau et dire que seuls 3 élèves sont en grande difficulté et estimer à 29 les élèves qui peuvent réussir. Si on raisonne sur le second tableau on va estimer que les 6 élèves instables ne vont pas réussir et dire que l’on attend 26 succès d’élèves. On comprend que ce type de raisonnement est incomplet car il y a des élèves stables qui peuvent ne pas comprendre et des élèves instables qui peuvent être brillants. La représentation proposée par ces deux tableaux juxtaposés est trop simpliste et requiert d’autres outils. Pour répondre à cette difficulté, la solution la plus simple est de créer le tableau avec la liste des élèves, le faire remplir par les professeurs comme nous l’avons fait ci-dessous.
60
76
36
8 2 18
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 14
F/G
Capables Moyennement
capables Peu
capables Stables
Peu stables
Instables
Élève N°1 G X X
Élève N°2 F X X
Élève N°3 G X X
Élève N°4 F X X
Élève N°5 G X X
…………….
Ce tableau contient la totalité des informations. Il est possible de répondre à la question en faisant des tris multiples par exemple sur Excel. Mais c’est une démarche très abstraite qui ne permet pas d’imaginer des stratégies pédagogiques de remédiation. C’est celle qui est utilisée dans les procédures d’affectation. A la place de donner la grille ci-dessus on peut donner le tableau (dit tableau croisé) ci-dessous où les filles sont en rose et les garçons en bleu :
Ce tableau a l’avantage de montrer d’un coup d’œil la situation de la classe dans toute sa complexité. On se rend compte que suivant les pédagogies mises en place et suivant le charisme des enseignants, les résultats seront très différents. Par exemple un professeur très sévère qui ne prend pas en compte les difficultés des élèves, répondra aux besoins entourés ci-dessous :
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 15
D’où une attente de réussite de 28 élèves
Un autre professeur manquant d’autorité mais se préoccupant des élèves en difficulté répondra aux besoins des élèves suivants :
Le résultat n’est plus le même et il y aura 22 réussites attendues. On pourrait faires d’autres scénarios avec d’autres profils de professeurs. Mais l’intérêt ici est de prendre conscience de la puissance explicative des tableaux croisés dans la gestion des établissements. D’ailleurs, à partir de ce type de tableaux on peut imaginer la mise en place des politiques éducatives. En partant des besoins des élèves, on obtient le tableau suivant qui a pour avantage de décrire tous les besoins d'un établissement scolaire:
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 16
La zone entourée de pointillés qui détermine deux bandes : une bande verticale à droite et une bande horizontale en haut, est la zone de toutes les difficultés rencontrées par un établissement. La politique de l’établissement doit mettre l’encadrement de ce type d’élèves comme priorité. Regroupons les élèves stables et peu stables ainsi que les élèves capables et moyennement capables qui en principe ne posent pas de problème aux établissements. Nous obtenons sur l’exemple choisi ci-dessus le tableau croisé suivant :
Ce tableau résout au niveau de l’établissement deux questions fondamentales. Une qualitative qui présente toutes les politiques qui sont incontournables pour un établissement. L’autre quantitative, car on a une estimation des moyens à mettre en œuvre.
CNAM PARIS Formation: licence professionnelle gestion des établissements sanitaires par Gabriel Cohen E-mail [email protected] Site : http://auditpro.org BP 90 009 34 006 Nîmes CEDEX 4 N° SIRET 500 007 331 00019 Numéro d’enregistrement de prestataire de formation 91 30 03373 30
Habilité à l’évaluation externe des établissements et services médicaux sociaux par l’ANESM décision H2009-11-280 Page 17
Le soutien scolaire doit prévoir un encadrement minimum de deux élèves pour cette classe. La discipline un encadrement pour 5 élèves. Il y a un élève qui doit être pris en charge et accompagné vers d’autres structures plus adaptées. J’espère vous avoir convaincus de l’utilité des tableaux croisés. Les tableaux croisés peuvent être utilisés dans les ESSMS pour analyser différentes situations. Croisement de l'âge des personnels avec leurs fonctions pour prévoir les renouvellements à
long terme Croisement de la satisfaction des usagers avec leur ancienneté dans l'EHPAD Croisement de la satisfaction des familles avec les GIR des résidents (l'individu est alors le
couple (résident/famille) Croisement de l'absentéisme des personnels avec la fonction pour déterminer le
fonctionnement des services les uns par rapport aux autres. Et ainsi de suite. A chaque fois il faut imaginer un outil simple de dépouillement et respecter à travers les individus (usagers ou personnel) le citoyen.
e. L’analyse de trois et plus indicateurs
Il est tout à fait naturel de penser que si l’analyse de deux indicateurs sous la forme de tableaux croisés permet de mieux comprendre les enjeux de fonctionnement d'un ESSMS, l’analyse de trois indicateurs ou de plusieurs indicateurs sera encore plus efficace. Par exemple on pourrait ajouter aux deux indicateurs d'usager « Qualité de la restauration» et « Qualité de l'hébergement» l’indicateur « qualité des soins ». C’est une excellente idée, mais c’est une idée infaisable dans la pratique. En effet si les résultats pour un indicateur se représentent sur un segment, pour deux sur un carré pour trois il faudrait un cube et en plus un cube transparent du type Rubiscub !!! Ne parlons pas de la situation pour 4 indicateurs et plus. Cette difficulté est tellement grande et le besoin d’étudier simultanément des indicateurs tellement important, qu’une science est née dans les années 1960-1970 (quand les ordinateurs ont été à la disposition du grand public). Cette science est l’Analyse des Données. Ce n’est pas le lieu pour présenter ces techniques. Il faut simplement savoir, à titre de culture que les deux techniques les plus employées sont l’ACP (Analyse en Composantes Principales) et la Régression. L’ACP est la plus utile et je l’utilise couramment lors d’audits. L’idée en est simple, comme la bonne photo technique qui essaie avec plusieurs clichés bien choisis de représenter un objet, l’ACP essaie de représenter sur une feuille les données sous le meilleur angle. Pour les directeurs d’établissement, ces techniques sont peu utiles. A titre d’information, toutes ces techniques sont disponibles dans les logiciels statistiques.
4. Conclusion Les informations que je viens d’apporter sont à mon avis largement suffisantes pour un responsable d’établissement et devraient faire partie de la culture de tout cadre. Au-delà de ces outils techniques la culture d’évaluation est avant tout un état d’esprit et là les difficultés ne sont pas que techniques !