Ethique conséquentialiste et TALNeternal.loria.fr/fichiers/MonWiki/2015_TALN...1.1.1. Impact sur l’utilisateur 1.1.1.1. Atteinte physique externe 1.1.1.2. Atteinte physiologique

Anaïs Lefeuvre, Jean-Yves Antoine, Willy Allegre

Ethique conséquentialiste et TALNUne typologie de risque adaptée aux technologies langagières



Sciences et technologies du numériqueNouveaux comportementssociété connectée

Nouvelles possibilitésbig data

Nouveaux acteursrobotique, agents virtuels

Technologies langagières, actrices de la révolution numérique

• Recherche d’information, fouille de texte, dialogue homme-machine


Société numérique : questionnementsInquiétudes au sein de la société civile

• Respect de la vie privée• Droit à l’oubli numérique• Contrôle étatique (Loi Renseignement)

Focus sur l’anonymisation des données

- pratiques plus que productions- simple respect du cadre juridique (Loi Informatique et Liberté)

Technologies langagières

Interrogations chez les scientifiques

• CERNA-ALLISTENE : réflexion éthique institutionnalisée dans le domaine de la robotique

Prise de conscience trop limitée ?


‘in

Démarche éthique et recherche

Droit Hétéro-régulation (étatique) basée sur l’interditð S’impose au chercheur

Ethique Auto-régulation basée sur des principes morauxð Elaboré par une communauté : société civile, chercheurs….

Précède et guide de plus en plus le droit (jurisprudence)

Chercheur lanceur d’alerte

Le chercheur est parfois le seul qui à comprendre ou anticiper les enjeux éthiques liés à l’émergence d’une nouvelle technologie [Axel Kahn]


ObjectifMéthodologie pour guider une réflexion éthique en TALN


EthiqueEthique déontologique Théorie de la justice (John Rawls, 1987)

• Respect de principes moraux guidant nos actions• La réflexion éthique porte sur l’établissement de ces principes,

dans le cadre d’un débat contradictoire et équitable

Ethique conséquentialiste Utilitarisme, principe responsabilité (Hans Jonas, 1990)

• Approche téléologique : focalisation sur les conséquences des actions• La réflexion éthique porte sur l’évitement de conséquences néfastes

Proposition Etude conséquentialiste sous forme d’analyse de risque


Analyse du risque : trois composantes

Facteur de RisqueElément pouvant entraîner une situation imprévue

VulnérabilitéObjet qui subit le risque et conséquence sur l’objet

Criticité C = I × PI : impact du risque (gravité)P : probabilité d’occurrence

Typologie de facteurs de risques adaptée au TAL

RisqueDéfinition

Référentiel ISO Guide 73 effet de l’incertitude sur l’atteinte des objectifseffet : écart, positif et/ou négatif, par rapport à une attente


$

1. Individu 1.1. Risque physique 1.1.1 1.1.1.1

…1.1.2

….

1.2. Risque cognitif

1.3. Risque psychique

2. Société 2.1. Risque sur le lien individu - société

2.2. Risque sur le système social

Niveau 2composante

Niveaux suivantsconséquence(type d’impact)

Typologie de facteurs de risque

Niveau 1objet

Catégorisation des facteurs de risque par vulnérabilité : grille d’analyse

Facteurs de risque


Risques pour l’individu

$

1. Individu 1.1. Risque physique






• Atteinte à l’intégrité physique de l’individu par suite de l’usage d’un système technique• Peut concerner également le TAL

1.1. Risque physique

1.1.1. Impact sur l’utilisateur

1.1.1.1. Atteinte physique externe

1.1.1.2. Atteinte physiologique interne

1.1.2. Impact sur l’environnement

physique

Logistique : commande vocaleð lombalgieð trouble musculo-squelettiques

[INRS, fiche sécurité ED135]

Risque physique


• Altération de certaines fonctions cognitives ou de l’état cognitif général de l’utilisateur• Structuration des impacts par fonctions mentales de la classification CIF de l’OMS [OMS 2001]

Risque cognitif

Recherche d’information

Google Effect – influence de l’usage d’un moteur de recherche sur la mémoire à long terme [Sparrow et al. 2011]

ð Impact mémoire

Aide à la composition langagière

• Aide à la communication • Correction orthographique• Traduction automatique

ð Impact compétences langagières


• perturbation de l’état psychologique de l’individu permanent ou temporaire• Structuration des impacts inspirée des classifications de l’OMS (CSM-10) [OMS 2006]

Risque psychique


1.3.1. Effets durables 1.3.1.1. Troubles de l’humeur

1.3.1.2. Troubles anxieux

1.3.1.3. Troubles personnalité

1.3.2. Effets temporaires 1.3.2.1 Fatigue psychique

1.3.2.2. Stress / choc émotionnel

Robots, Agents conversationnels animé (ACA), synthèse vocale sur mesure : visée anthropomorphiqueð Troubles de la personnalité ? Transferts ?

Dans les cas où l’apparence ou la voix humaines sont imitées, [on] s’interrogera sur les effets que pourrait avoir cette imitation, y compris hors des usages [prevus] [Cerna 2014]


Risques sociétaux

$

1. Individu 1.1. Risque physique






• Rapport de l’individu à la société / dans la société• Au-delà du respect des droits individuels

Risque sur le lien social

Détection d’auteurs(Authorship Authentification)

ð Respect de la vie privée

Myriadisation / CrowdsoursingRéalisation de ressources linguistiques

ð Droit du travail [Sagot et al. 20011]

2.1. Lien social

2.1.2. Relation à la technologie 2.1.2.1. Technologie invisible

2.1.2.2. Dialogue Homme-Machine

2.1.3. Droits et libertés individuelles

2.1.3.1. Respect de la vie privée

2.1.3.2. Droit du travail

2.1.3.3. Responsabilité

2.1.3.4. Liberté d’expression

2.1.3.5. Propriété intellectuelle

2.1.1. Relation inter-individu


Nouveaux acteurs : bots, robots et agents conversationnels animés…

Risque sur le lien social

Relation à la technologie : dialogue homme-machineSi une ressemblance quasi parfaite est visée, le chercheur doit avoir conscience que la démarche biomimétique peut brouiller la frontière entre un être vivant et un artefact [Cerna 2014]

Relation inter-individuPour les projets (…) qui ont trait au développement de la robotique affective, le chercheur s’interrogera sur les répercussions éventuelles de son travail sur les capacités de socialisation de l’utilisateur [Cerna 2014]

Relation à la technologie : technologie invisibleGénération automatique de comptes-rendus électoraux [Le Monde 2015]

Droits et libertés : responsabilité• Statut juridique des robots et agents autonomes [Robolaw 2014, Bensoussan 2015]• Responsabilité voitures autonomes, drones (législation Nevada)

2.1.2.1.

2.1.2.2

2.1.3.5

2.1.1.


• modification du système social : politique, économique, culture

Risque sur le système social


2.2.1. Risque politique

2.2.2. Risque économique

2.2.3. Risque socio-culturel

Recherche d’information textuelle« Bourse des mots »

ð Capitalisme linguistique [Kaplan 2014]

Traduction automatiqueAnglais langue pivot + machine learning

ð Créolisation numérique [Kaplan 2014]


Conclusion• La technologie n’est pas un objet neutre : impact individuel et sociétal du TAL• Le TAL participe à la réparation /augmentation de l’humain (transhumanisme)

ð Nécessité d’une réflexion éthique soutenue sur nos recherches

Perspectives

• Typologie à éprouver : risques sociétaux … voire plus universels• Hiérarchie ð ontologie (facteurs multi-risques, raisonnement…)• Etude de criticité : expérimentation sur les compétences langagières (RTR Risques)

Remerciements Christian Toinard, Benjamin Nguyen, Adrien Granger


Anaïs LefeuvreLI, Université François Rabelais de Tours, Blois

Jean-Yves AntoineLI, Université François Rabelais de Tours, Blois

Willy AllègreLaboratoire d’Electronique, CMRFF de Kerpape, Ploemeur


Risque

• Mathématisation [Huygens, Bernouilli, Pascal]

• Incertitude liée à un processus• Aléa positif ou négatif • Maîtrise du risque industriel : normes

• Estimation coût/bénéfice

ISO Norme 73 effet de l’incertitude sur l’atteinte des objectifseffet : écart, positif et/ou négatif, par rapport à une attente

UE 2006 risque : probabilité qu’un évènement se produiserisque potentiel grave : situation dans laquelle il existe une forte probabilité pour qu’un danger grave provoqué par un médicament (…) affecte la santé publique

Temps modernes Révolution industrielle et « anthropocène »

• Fatalisme : risque accepté

XVII° XIX°


Aide à la composition langagière – altération par insuffisance de stimulation cognitive

Risque cognitif

1. Individu 1.2. Risque cognitif 1.2.1. Altération fonction 1.2.1.2 Retard cognitif 1.2.1.2.4. Langage

1. Individu 1.2. Risque cognitif 1.2.1. Altération fonction 1.2.1.2 Retard cognitif 1.2.1.2.5. Mémoire

• Aide à la communication pour personnes handicapées, correction orthographique, traduction automatique

1. Individu 1.2. Risque cognitif 1.2.1. Altération fonction 1.2.1.2 Régression cognitive 1.2.1.2.4. Langage

Mémoire altérée• Google Effect – influence de l’utilisation d’un moteur de recherche sur les stratégies de mémorisation à long terme

[Sparrow et al. 2011]• Abandon de l’écriture cursive pour la saisie numérique sur clavier – stimulation inférieure d’aires motrices activées en

même temps que certaines aires motrices [Longcamp 2003]

Documents

Ethique conséquentialiste et TALNeternal.loria.fr/fichiers/MonWiki/2015_TALN...1.1.1. Impact sur l’utilisateur 1.1.1.1. Atteinte physique externe 1.1.1.2. Atteinte physiologique