34
Avatars et autres humains virtuels pour l’entraînement socio-émotionnel Ouriel Grynszpan Institut des Systèmes Intelligents et de Robotique Université Pierre et Marie Curie Hôpital Pitié-Salpêtrière [email protected]

Avatars et autres humains virtuels pour l’entraînement

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Avatars et autres humains virtuels pour l’entraînement

Avatars et autres humains virtuels pour l’entraînement socio-émotionnelOuriel Grynszpan

Institut des Systèmes Intelligents et de Robotique

Université Pierre et Marie Curie

Hôpital Pitié-Salpêtrière

[email protected]

Page 2: Avatars et autres humains virtuels pour l’entraînement

Approche interdisciplinaire

Affective Computing

Psychopathologie

Neurosciences Cognitives et Affectives

Page 3: Avatars et autres humains virtuels pour l’entraînement

Progression de la recherche en technologies innovantes pour l’autisme

0

10

20

30

40

50

60

70

80

90

1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011

Number of papers per year on innovative technologies based training for ASD

Grynszpan, Weiss, Perez-Diaz, & Gal, Autism, 2014

Page 4: Avatars et autres humains virtuels pour l’entraînement

Atouts des ordinateurs

Tâche clairement définie

Distractions réduites/maîtrisées

Réponses prévisibles

Répétitions possibles à l’infini

Utilisation d’indices visuels

Page 5: Avatars et autres humains virtuels pour l’entraînement

Méta-analyse d’études contrôlées

Études pre-post contrôlées

Randomisation pour 85,6% des participants

Taille de l’effet: d = 0.47 (CI = 0.08 – 0.86)

-2 -1 0 1 2 3 4

Faja et al. 2008

Tanaka et al. 2010

Faja et al. in press

Whalen et al. 2010, Preschool

Whalen et al. 2010, Kindergarten

Golan & Baron-Cohen 2006, Experiment 1

Williams et al. 2002

MEAN

Hopkins et al. 2011, Low Functioning

Golan & Baron-Cohen 2006, Experiment 2

Hopkins et al. 2011, High Functioning

Golan et al. 2010

Bolte et al. 2006

Moore & Calvert 2000

Mitchell et al. 2007

Cohen's d

Effect sizes and 95% Confidence Intervals for post tests

Grynszpan, Weiss, Perez-Diaz, & Gal, Autism, 2014

10 études d’efficacité pré-post randomisées contrôlées

Page 6: Avatars et autres humains virtuels pour l’entraînement

Variables modératrice potentielleHétérogénéité significative entre les études

Approches théoriques différentes:

- Applied Behavior Analysis

- Cognitive Behavioral Therapy

- Neuro-rehabilitation

Différentes méthodes:

- Caractéristiques des participants

- Durée du traitement

- Apprentissage non-supervise vs. entraînement avec un spécialiste

Page 7: Avatars et autres humains virtuels pour l’entraînement

Compétences Sociales et Communicative

Golan & Baron-Cohen, Dev Psychopathol, 2006

Golan et al., J Autism Dev Disord, 2010

Hopkins et al., J Autism Dev Disord, 2011 Serret et al., Molecular Autism, 2014

Page 8: Avatars et autres humains virtuels pour l’entraînement

Environnements Virtuels

AS Interactive Project: Mitchell, Parsons, & Leonard, JADD, 2007

COSPATIAL project, cospatial.fbk.eu

Bernardini et al., Information Sciences,2013

Page 9: Avatars et autres humains virtuels pour l’entraînement

Agents Conversationnels Animés

“demonstrate many of the same properties as humans in face-to-face conversation” (Cassel, Embodied Conversational Agents, 2000)

Utilisation pour des études expérimentales sur les interactions sociales Courgeon, Grynszpan, Buisine & Martin, ICDVRAT, 2012

Microsoft Merlin® © Cantoche 2009 Courgeon & Martin © LIMSI-CNRS 2011GRETA (Mancini & Pelachaud, 2007)

Page 10: Avatars et autres humains virtuels pour l’entraînement

La Pragmatique

Déficit primaire dans l’autisme(Tager-Flusberg, Understanding others minds (2nd ed), 2000)

Diffultés avec l’ironie, les métaphores etc(Happé, Cognition, 1993; Loukusa et al., JADD, 2007; Dennis et al., JADD, 2001)

Tendance à l’interprétation littérale, omission du contexte (Jolliffe & Baron-Cohen, Cognition, 1999)

Pouvoir désambigüisant des expressions faciales?

Page 11: Avatars et autres humains virtuels pour l’entraînement

(Grynszpan, Martin & Nadel, IJHCS, 2008)

Page 12: Avatars et autres humains virtuels pour l’entraînement

(Grynszpan, Martin & Nadel, IJHCS, 2008)

Page 13: Avatars et autres humains virtuels pour l’entraînement

Corrélations entre le nombre de clicks et les durées des scénarios

30

40

50

60

70

80

90

100

0 10 20 30 40

Nombre de Clicks

Du

rée d

es S

cén

ari

os (

sec)

Groupe typique

Groupe clinique

Tendance (Groupe typique)

Tendance (Groupe clinique)

Utilisation des Expressions Faciales

rs = 0.73, p = 0.017rs = -0.02, p = 0.96

(Grynszpan, Martin & Nadel, IJHCS, 2008)

Page 14: Avatars et autres humains virtuels pour l’entraînement

Exploration Visuelle du Visage

Images statiques d’expressions émotionnelles

Patterns visuelsatypiques

Pelphrey et al., JADD, 2002

Corden, Chilvers & Skuse, Neuropsychologia, 2008; Dalton et al., Nature Neuroscience, 2005; Pelphrey et al., JADD, 2002; Spezio, Adolphs, Hurley & Piven, JADD, 2007Rice, Moriuchi, Jones & Klin, J Am Acad Child Adolesc Psychiatry, 2012Chawarska, Macari & Shic, Biol Psychiatry, 2013

Page 15: Avatars et autres humains virtuels pour l’entraînement

Stimuli Sociaux DynamiquesMoins de fixationssur les visages

Répercussions sur la capacitéspragmatiques ?

Nécessité d’étudier le regard social

Klin et al., American Journal of Psychiatry, 2002

Klin et al., American Journal of Psychiatry, 2002;Speer et al., Autism, 2007; Riby & Hancock, Journal of Intellectual DisabilityResearch, 2009Rice, Moriuchi, Jones & Klin, J Am Acad Child Adolesc Psychiatry, 2012Chawarska, Macari & Shic, Biol Psychiatry, 2013

Page 16: Avatars et autres humains virtuels pour l’entraînement

Le regard social dans l’autismeContact visuel anormal (DSM 5)

Attention conjointe:

- étape critique dans la trajectoire développementaleCharman, Phil. Tans. R. Soc. Lond. B, 2003

- parmi les premiers signes d’autismAdrien et al., J. Am. Acad. Child Adol. Psychiat., 1993

Théories développementales incriminant le regard social:

- Fast-track modulator model Senju, & Johnson, Neurosci Biobehav R, 2009

- Hyper-amygdala activationDalton et al., Nature Neuroscience, 2005

Page 17: Avatars et autres humains virtuels pour l’entraînement

Self-monitoring du RegardCritique pour les interactions socialesComposant clef du système visuel humain(Robinson, Gordon & Gordon, Biological Cybernetics, 1986; Colby & Goldberg, Ann. Rev. Neurosci., 1999; Wurtz, Vision Res., 2008)

Diminution de l’adaptation saccadique dans les TSA(Mosconi et al., PLOS One, 2013)

Les individus avec TSA sont-ils sensibles aux effets de leur regard ?Sens d’agentivité : « Le sens que je suis celui qui cause ou génère une action »(Gallagher, Trends in Cognitive Sciences, 2000)

Page 18: Avatars et autres humains virtuels pour l’entraînement

Fenêtre de Vision Asservie au Regard

Eye-tracker

Page 19: Avatars et autres humains virtuels pour l’entraînement

Méthode

Condition A:

Exploration libre

Condition B:

Fenêtre de vision

asservie au regard

Condition A’:

Exploration libre

20 scènes 20 scènes 20 scènes

Question finale : « Vous avez remarqué que dans certaines vidéos,

il y a des parties floues et des parties claires. Qu’est-ce qui

provoque les parties claires ? »

Page 20: Avatars et autres humains virtuels pour l’entraînement

Fixations Atypiques sur les Visages

Grynszpan, Nadel, Martin, Simonin, Le Barillier, Bailleul, Wang, Gepner & Constant, JADD, 2012

Page 21: Avatars et autres humains virtuels pour l’entraînement

Adaptation Altérée du regard

Grynszpan, Nadel, Martin, Simonin, Le Barillier, Bailleul, Wang, Gepner & Constant, JADD, 2012

Page 22: Avatars et autres humains virtuels pour l’entraînement

Exemples videos des résultats

Participant typique Participant avec TSA

Page 23: Avatars et autres humains virtuels pour l’entraînement

Question FinaleRatio de participants ayant répondu être responsable des mouvements de loupe :

7/14 participants typiques1/13 participants avec autisme

différence entre groupes ² = 5.79 p = 0.0329

Altération du self-monitoring du regard

Altération du sens d’agentivité

Page 24: Avatars et autres humains virtuels pour l’entraînement

Le Sens d’Agentivité dans les TSA

Pas de déficit dans le “jugement d’agentivité” expliciteDavis et al., JADD, 2008; Russell & Hill, JCPP, 2001; Williams, & Happé, JADD, 2009

Données en faveur d’une altération implicite : « Intentional Binding » diminuéSperduti et al., JADD, 2013

Williams & Happé, JADD, 2009

Page 25: Avatars et autres humains virtuels pour l’entraînement

Le Self-monitoring du Regard au Quotidien

Dans le champ social, le regard est une action

Attention conjointe:Le suivi du regard par le partenaire fournit un feedback sur les mouvements des yeux de l’individu

Emery, Neurosci Biobehav R, 2000

Page 26: Avatars et autres humains virtuels pour l’entraînement

Avatar qui suit le Regard

Courgeon, Rautureau, Martin, & Grynszpan, IEEE TAC, 2014

Page 27: Avatars et autres humains virtuels pour l’entraînement

Exemple de scène virtuelle

Page 28: Avatars et autres humains virtuels pour l’entraînement

Évaluation de la Compréhension Pragmatique

Que ressent Léa ?Elle est contente. Elle est ennuyée. Elle est émue.

Qu’est-ce qui te fait dire cela ?Léa préfère ne pas avoir à payer le pull. Léa aurait préféré payer le pull. Léa est amoureuse d’un des vendeurs du magasin.

Page 29: Avatars et autres humains virtuels pour l’entraînement

Du Regard à la PragmatiqueLe temps de fixation sur les visages corrélait avec les scores de compréhension pragmatique

Pertinent pour la remédiation du regard social

Grynszpan, Nadel, Martin, Simonin, Le Barillier, Bailleul, Wang, Gepner & Constant, JADD, 2012

Page 30: Avatars et autres humains virtuels pour l’entraînement

Transférable à des Contextes Réalistes ?

Fenêtre asservie au regard avec des scènes sociales réelles

Condition de ligne de base:

Exploration libre

Condition expérimentale:

Fenêtre de vision asservie au regard

Grynszpan, & Nadel, Frontiers in Human Neuroscience, 2015

Page 31: Avatars et autres humains virtuels pour l’entraînement

Liens entre Exploration Visuelle et MentalisationStabilisation du regard sur les visages en condition expérimentale uniquement pour les participants typiques

Mesure de compétences narratives : Ratio de verbes mentalistes (savoir, penser, deviner…)

La durée de fixation sur les visages corrélait avec les scores du sous-test de ADI-R sur les Interactions Sociales Réciproques

Participants with ASDVariable correlated with the ratio

of mental state verbs

Baseline Condition Experimental Condition

Total duration on faces Not Significant r = 0.70 p = 0.017

Mean duration on faces r = 0.60 p = 0.05 r = 0.87 p < 0.001

Page 32: Avatars et autres humains virtuels pour l’entraînement

Projets Courants

Méthode de Remédiation Socio-cognitive fondée sur la fenêtre de vision asservie au regard

Étude Randomisée Contrôlée :Participants adolescentsEntraînement avec un spécialistes

Page 33: Avatars et autres humains virtuels pour l’entraînement

Perspectives

Étude de la coordination du regard dans les situations de face-à-face

Technologies pour fournir un feedback sur les expressions faciales

Dapogny, Bailly & Dubuisson, Face & Gesture, 2015

Page 34: Avatars et autres humains virtuels pour l’entraînement

RemerciementSoutiens financiers :

La Fondation de France

La Fondation Adrienne et Pierre Sommer

La Fondation Orange

Agence Nationale de la Recherche

Partenaires:

Centre Emotion (Paris)

LIMSI (Orsay)

LORIA (Nancy)

La Maison pour les personnes autistes (Chartres)

Contact: [email protected]