Ethique & Aide au handicap · • Préoccupations éthiques communes avec les sciences du numérique : Ethique & Data • Focus sur les données sensibles (TALN : anonymisation de

Jean-Yves Antoine, Anaïs Lefeuvre-Halftermeyer, Willy Allegre, Christian Toinard

Ethique & Aide au handicapApproche conséquentialiste pour une évaluation des technologies

Jean-Yves AntoineAnaïs Lefeuvre-Halftermeyer, Willy Allegre, Christian Toinard


Ethique & aide au handicapQuelles aides techniques ?

• Aide numérique : aide à la communication assistée par ordinateur, habitats intelligents (domotique)…• Intelligence Artificielle, Interaction Homme-Machine (IHM), Traitement Automatique des Langues (TALN) • Préoccupations éthiques communes avec les sciences du numérique : Ethique & Data

• Focus sur les données sensibles (TALN : anonymisation de corpus ; Handicap : données personnelles)• Respect du cadre juridique (loi Informatique et Libertés ; comités d’éthique pour les expérimentations)

• Aide au handicap – Postulat de l’apport apporté aux patients, seul objet d’évaluation

TALN & aide au handicap : quels questionnements éthiques ?

Objectif – évaluer l’impact éthique d’une aide technique, au-delà des seuls aspects données sensibles

Au-delà des données…


‘in

Ethique et innovation technique

Droit Hétéro-régulation (étatique) basée sur l’interdit Non contournable

Ethique Auto-régulation basée sur des principes moraux Elaboré par une communauté : société civile, chercheurs….

S’impose en recherche et en innovation car précède et guide le droit (jurisprudence)

Science en conscience : lanceur d’alerte

Le chercheur ou l’innovateur est parfois le seul qui à comprendre ou anticiper les enjeux éthiques liés à l’émergence d’une nouvelle technologie [Axel Kahn]


ObjectifMéthodologie pour guider une réflexion éthique dans le domaine de l’aide aux personnes handicapées… et pour toute technologie numérique

Démarche centrée sur une analyse du risque technologique


EthiqueEthique déontologiqueRespect de principes moraux guidant nos actionsLa réflexion éthique porte sur l’établissement de ces principes

Théorie de la justice (John Rawls, 1987) : débat équitable

Ethique conséquentialisteApproche téléologique : focalisation sur les conséquences des actionsLa réflexion éthique porte sur l’évitement de conséquences néfastes

Utilitarisme (Jeremy Bentham, John Stuart Mills) : action bénéfique au plus grand nombre Principe responsabilité (Hans Jonas, 1990) : principe de précaution

Proposition Etude conséquentialiste sous forme d’analyse de risque


Risque

• Mathématisation [Huygens, Bernouilli, Pascal]

• Incertitude liée à un processus• Aléa positif ou négatif • Maîtrise du risque industriel : normes

• Estimation coût/bénéfice

ISO Norme 73 Risque – effet de l’incertitude sur l’atteinte des objectifsEffet – écart, positif et/ou négatif, par rapport à une attente

UE 2006 Risque : probabilité qu’un évènement se produiseRisque potentiel grave : situation dans laquelle il existe une forte probabilité pour qu’un danger grave provoqué par un médicament (…) affecte la santé publique

Temps modernes Révolution industrielle et « anthropocène »

• Fatalisme : risque accepté

XVII° XIX°


Analyse du risque : trois composantes

Criticité C = I × PI : impact du risque (gravité)P : probabilité d’occurrence

Facteur de RisqueElément pouvant entraîner une situation imprévue

Quelles technologies d’aide sont facteurs de risque ?

VulnérabilitéObjet qui subit le risque et conséquence sur l’objet

Qui subit le risque (individu, société) et de quelle manière ?

Risque

Typologie de facteurs de risques adaptée à l’aide au handicap

Démarche adaptée à l’évaluation des effets positifs et négatifs


$

1. Individu 1.1. Risque physique 1.1.1 1.1.1.1

…1.1.2

….

1.2. Risque cognitif

1.3. Risque psychique

2. Société 2.1. Risque sur le lien individu - société

2.2. Risque sur le système social

Niveau 2composante

Niveaux suivantsconséquence(type d’impact)

Typologie de facteurs de risque

Niveau 1objet

Catégorisation des facteurs de risque par vulnérabilité : grille d’analyse

FichesFacteur de risque

vulnérabilité facteur de risque


Risques pour l’individu

$

1. Individu 1.1. Risque physique






• Atteinte à l’intégrité physique de l’individu par suite de l’usage d’un système technique• Concerne également l’environnement physique

1.1. Risque physique

1.1.1. Impact sur l’utilisateur

1.1.1.1. Atteinte physique externe

1.1.1.2. Atteinte physiologique interne

1.1.2. Impact sur l’environnement

physique

Fauteuil roulant électrique accidents impact FRE autonome

Risque physique

Domotique : plaque de cuisson Incendie (Alzheimer)


• Modification de certaines fonctions cognitives ou de l’état cognitif général de l’utilisateur• Structuration des impacts par fonctions mentales de la classification CIM de l’OMS

Risque cognitif


Aide à la composition langagière – altération par insuffisance de stimulation cognitive

Risque cognitif

1. Individu 1.2. Risque cognitif 1.2.1. Modification fonction 1.2.1.2 Retard cognitif 1.2.1.2.4. Langage

• Aide à la communication pour personnes handicapées … mais aussi correction orthographique, traduction automatique

Mémoire • Google Effect – influence de l’utilisation d’un moteur de recherche sur les stratégies de mémorisation à long terme

[Sparrow et al. 2011]• Clavier virtuel … mais aussi abandon officiel de l’écriture cursive pour la saisie numérique sur clavier (USA, Finlande) –

stimulation inférieure d’aires motrices activées en même temps que certaines aires motrices [Longcamp 2003]

1. Individu 1.2. Risque cognitif 1.2.1. Modification fonction 1.2.1.2 Régression cognitive 1.2.1.2.4. Langage

1. Individu 1.2. Risque cognitif 1.2.1. Modification fonction 1.2.1.2 Retard cognitif 1.2.1.2.5. Mémoire


• perturbation de l’état psychologique de l’individu permanent ou temporaire• Structuration des impacts inspirée des classifications de l’OMS (CSM-10) [OMS 2006]

Risque psychique


1.3.1. Effets durables 1.3.1.1. Troubles de l’humeur

1.3.1.2. Troubles anxieux

1.3.1.3. Troubles personnalité

1.3.2. Effets temporaires 1.3.2.1 Fatigue psychique

1.3.2.2. Stress / choc émotionnel

Robots ou ACA compagnons, synthèse vocale sur mesure Troubles de la personnalité ? Transferts ?

Dans les cas où l’apparence ou la voix humaines sont imitées, [on] s’interrogera sur les effets que pourrait avoir cette imitation, y compris hors des usages [prevus] [Cerna 2014]

Synthèse vocale sur mesure trachéotomie, maladie neurodégénérative


Risques sociétaux

$

1. Individu 1.1. Risque physique






• Rapport de l’individu à la société / dans la société• Au-delà du respect des droits individuels

Risque sur le lien social

2.1. Lien social

2.1.2. Relation à la technologie 2.1.2.1. Technologie invisible

2.1.2.2. Dialogue Homme-Machine

2.1.3. Droits et libertés individuelles

2.1.3.1. Respect de la vie privée

2.1.3.2. Droit du travail

2.1.3.3. Responsabilité

2.1.3.4. Liberté d’expression

2.1.3.5. Propriété intellectuelle

2.1.1. Relation inter-individuPersonnalité sociale

E-notoriété & vie privée

Droit & responsabilité


Nouveaux acteurs : bots, robots et agents conversationnels animés…

Risque sur le lien social

Si une ressemblance quasi parfaite est visée, le chercheur doit avoir conscience que la démarche biomimétique peut brouiller la frontière entre un être vivant et un artefact [Cerna 2014]

Relation inter-individuPour les projets (…) qui ont trait au développement de la robotique affective, le chercheur s’interrogera sur les répercussions éventuelles de son travail sur les capacités de socialisation de l’utilisateur [Cerna 2014]

Relation à la technologie : technologie invisible / frontière vivant et artefactSynthèse vocale

Droits et libertés : responsabilité• Statut juridique des robots et agents autonomes [Robolaw 2014, Bensoussan 2015]

Exemple : responsabilité voitures autonomes, drones (législation Nevada)

2.1.2.1.

2.1.2.2

2.1.3.5

2.1.1.

2.1.3.1 Droits et libertés : vie privée• Vie privée : monitoring d’activité par les habitats intelligents (smart home)• Secret médicat : SI santé


Traduction automatiqueAnglais langue pivot + machine learning

Créolisation numérique [Kaplan 2014]

Recherche d’information textuelle« Bourse des mots »

Capitalisme linguistique [Kaplan 2014]

• modification du système social : politique, économique, culture

Risque sur le système social


2.2.1. Risque politique

2.2.2. Risque économique

2.2.3. Risque socio-culturel Technologie d’aide à la personne Concurrence aide humaine


Application de la méthodologie

Comités d’expertise- Pluridisciplinarité- Evaluation des technologies

Criticité C = I × PI : impact du risque (gravité)P : probabilité d’occurrence

RTR Risque (2015-2018)

Axe Risque Informatique & aide à la personne (Christian Toinard, Jean-Yves Antoine)

Classification de risques- Instanciation- Fiches risques

Facteur de RisqueElément pouvant entraîner une situation imprévue

VulnérabilitéObjet qui subit le risque et conséquence sur l’objet

Evaluation- Expérimentations- Analyse éthique


Application de la méthodologieClassification de risques

Typologie Ontologie Evolutivité

Multiplicité de points de vue

Adaptation à un domaine

Publication

Année 2016

• Transfert de la typologie sous ontologie Protégé

• Ateliers experts par domaines pour nourissement de l’ontologie


Application de la méthodologieEvaluation : aide à la communication

Vitesse de saisie

Maîtrise de la langueAnnée 2016

• Stages à l’interface entre ergothérapie et orthophonie• Trois structures différentes : PFNT Garches, CMRFF Kerpape, IEM Trouy


Application de la méthodologieEvaluation : aide à la communication

• PFNT Garches • CMRFF Kerpape• IEM Trouy

Mars Mai Juillet2016

Stages courts & recherche originale- Validation de protocole et non recherche de résultats conclusifs

Développement langagier : population enfantine- Enfants paralysés cérébraux (Kerpape, Trouy) ou dysorthographiques naïfs (Garches, Trouy) + groupe contrôle (Garches)- Enfants sachant lire (âge lexical supérieur ou égal à 7 ans)

Risques positifs et négatifs de l’utilisation d’une aide à la communication - Critère principal d’évaluation – Nombre et types d’erreurs orthographiques (3 tests espacés de 1 mois)- Critères secondaires – Vitesse de saisie, fréquence d’utilisation de la prédiction, charge attentionnelle, fatigue cognitive


Conclusion La technologie n’est pas un objet neutre : impact individuel et sociétal L’objectif d’une aide (risque positif) ne doit pas obérer une analyse critique des risques négatifs Les technologies numériques d’aide à la personne participent à l’augmentation de l’humain (transhumanisme)

Nécessité d’une réflexion éthique soutenue sur nos recherches et innovations techniques

RemerciementsBenjamin Nguyen, Adrien Granger, Ivan Bedini

Inclusion du citoyen dans les débats, mais aussi les expérimentations, initiées autour de cette analyse de risque : commissions de débats publics, sciences participatives


Jean-Yves AntoineLI, Université François Rabelais de Tours, Blois

Anaïs Lefeuvre-HalftermeyerSTIH, Université Paris 4 Sorbonne

Willy AllègreLaboratoire d’Electronique, CMRFF de Kerpape, Ploemeur

Christian ToinardLIFO, INSA Bourges

Documents

Ethique & Aide au handicap · • Préoccupations éthiques communes avec les sciences du numérique : Ethique & Data • Focus sur les données sensibles (TALN : anonymisation de