L'éthique de l'ingénieur face aux technologies et aux ... · et des limites de l'expertise ... Critique du déterminisme technologique ... Des entreprises craignent les réactions

L'éthique de l'ingénieur face aux technologies et aux attentes de la Société Dominique Vinck

FABI - 21 avril 2016

Des valeurs éthiques dans l’ingénierie


« Je ne décris pas ma méthode pour rester sous l'eau ni combien de temps je peux y rester sans manger. Et je ne les publie et ne les divulgue pas, en raison de la nature maléfique des hommes, qui les utiliseraient pour l'assassinat au fond de la mer en détruisant les navires en les coulant, eux et les hommes qu'ils transportent »

�  Leonardo da Vinci (Prolégomène et introdcution général au livre sur la peinture)


Sous-marin de Leonardo da Vinci (1452-1519)

Innovation, solidarité, convivialité, esthétique et économie des ressources = valeurs éthiques qui influent la conception et le calcul des solutions


Gustave Eiffel (1832-1923)

Mi-20ème siècle Utilitarisme et pragmatisme Mobilisation des sciences Recherche d’applications immédiates Former des hommes nouveaux = mission de l’Ecole des Mines de Medellín Rationalisation, y compris de l’Etat


Alejandro López (1876-1940)

Alberto Mayor Mora, Etica, trabajo y productividad en Antioquia. Una interpretación Sociológica sobre la influencia de la Escuela de minas en la vida, costumbres e industrialización regionales, Ed. Tercer Mundo, Bogotá, 1984

Grandes valeurs éthiques classiques en ingénierie

-  Contribution au progrès humain et social

-  Rationalité dans l’analyse, la conception, la gestion…

-  Utilité et efficacité -  Fiabilité, robustesse et

sécurité -  Économie des

ressources -  Dépassement des

intérêts particuliers (bien commun) FABI - 21 avril 2016

https://commons.wikimedia.org/wiki/File:Tour_Eiffel_Arbal%C3%A9tri%C3%A8res_et_treillis_pour_le_calcul_de_l

%27ossature.JPG

Évolution des valeurs et influences de la société L’employeur

Public (intérêt général, indépendance de la Nation…) Privé (projet entrepreneurial, valeur économique…)

Les convictions personnelles Équité, respect de l’environnement…

Le contexte juridique et institutionnel

Risque acceptable, soutien de l’Etat

Le contexte social et les débats entourant les technologies

Pressions environnementalistes FABI - 21 avril 2016

http://se-preparer-aux-crises.fr/wp-content/uploads/2015/06/Evolution-des-dieux.jpg

Cas de conscience


http://www.lefigaro.fr/societes/2015/10/04/20005-20151004ARTFIG00023-

affaire-volkswagen-des-ingenieurs-avouent-avoir-installe-le-logiciel-tricheur.php

ingénieurs confrontés à des problèmes concrets & pris dans des jeux d’acteurs

Réflexion éthique en ingénieure

Ø  19ème : les associations professionnelles proposent des codes d’éthique

Ø  20ème : face aux inquiétudes portant sur les risques des nouvelles technologies

Ø  Bombe atomique en 1945, accidents nucléaires de Three Mile Island…, explosions de Seveso, Bhopal…

Ø  Les écoles d’ingénieurs (MIT…) développent des réflexions critiques concernant les relations entre technologies et sociétés


Réflexion éthique dans les écoles d’ingénieurs

Analyse de cas Les ingénieurs doivent faire des compromis entre

Ø  Rationalité technique Ø  Contribution au bien

commun de l’humanité

Ø  Et pressions des employeurs Ø  Politiques publiques Ø  Intérêts privés


Thèmes de réflexion éthique Conflits d’intérêts Secret industriel, commercial, militaire ou étatique Limites au maintien des bonnes relations avec les partenaires Loyauté vis-à-vis de l’employeur / la profession / la société Devoir de lanceur d’alertes


Proposition en tant que groupe professionnel -  France : Charte de l'ingénieur (Conseil national des

ingénieurs et scientifiques de France - CNISF) -  Insiste sur le rôle social (securité) et le développement

durable -  Définit un idéal pour la profession sans préciser

d’obligations spécifiques

-  Allemagne : la réflexion répond aux critiques de l’après guerre -  Se présentent comme acteurs du développement technique

et citoyen, préoccupés par l’évolution de la société

-  USA : l’engineering ethics répond aux fortes critiques à l’égard des technologies et à la nécessité d’en faire une évaluation sociétale (technology assessment)


Proposition en tant que groupe professionnel

(COPNIA, 2014) - https://copnia.gov.co/codigo-de-etica-profesional/

-  Promouvoir l’intégrité de la profession -  Devoirs vis-à-vis de la société

-  S’intéresser au bien public […] pour servir l’humanité

-  Coopérer au progrès de la société

-  Étudier attentivement qui sera affecté par chaque proposition […] afin d’assurer la meilleur qualité de vie pour la population

-  Offrir bénévolement ses services en cas de catastrophe publique

-  Protéger la vie et la santé des communautés, en évitant les risques non nécessaires dans la réalisation du travail

-  Agir pour la protection de l’intégrité de patrimoine FABI - 21 avril 2016

Dans les faits : de la déontologie plus que de l’éthique Au niveau individuel, une éthique des bonnes relations

-  Avec les collègues : éviter les conflits -  Avec les employés et partenaires : p.ex. ne pas dénigrer leurs

compétences


-  Sécurité et conditions de travail -  Ne pas exposer les

employés à des pressions inutiles

-  Qualité du travail -  Information de la hiérarchie en

cas de problème http://ahane.seneweb.com/mon-collegue-est-il-mon-

ennemi-ou-mon-ami_b_135.html

Déontologie plus qu’éthique


-  Ce qui compte -  La façon d’agir, la confiance

et la loyauté vis-à-vis de l’employeur, du secteur et de la profession

-  Plus que les préoccupations sociétales et les finalités

-  L’employeur compte plus que la profession

-  Les affaires dominent les considérations éthiques

http://ahane.seneweb.com/mon-collegue-est-il-mon-ennemi-ou-mon-ami_b_135.html

Un échec de l’éthique professionnelle ?

L’éthique promue dans la littérature professionnelle -  Ne se traduit guère dans les faits -  Ne s’intègre pas dans les situations concrètes de travail -  Sauf lorsque :

-  Il y a une forte pression externe (p.ex. si des victimes déposent plaintes)

-  Ils pensent que les solutions viennent de l’ingénierie (p.ex. développement durable)

La critique éthique vise les autres professions, en particulier les commerciaux et la finance


Pouvoir se regarder dans le miroir

Individuellement, disent : -  Avoir des problèmes de conscience à travailler dans

certains secteurs -  P.ex. l’industrie de l’armement ou du tabac -  Ne se sentent pas à l’aise de participer au développement de

produits dangereux pour le consommateur -  Ne pas savoir comment aborder ces questions -  Que le problème vient du contexte économique et

organisationnel -  Inversement, être fiers de contribuer à sauver des vies

-  p.ex. senseurs pour libérer les airbags -  Avoir l’impression que ce qu’ils font est bien


Face aux nouvelles technologies


Technology Assessment

Ø  Pugwash : évaluation éthique des technologies

Ø  1962–grands programmes technologiques : quels bénéfices ? Ø  Étendre les méthodes d’analyse coûts-

bénéfices : intégrer ce qui n’entre pas dans le calcul économique

Ø  1972 - Office of Technology Assessment Ø  Anticiper les impacts Ø  Préparer l’adaptation de la société

(éducation, législation, organisation) Ø  Anticiper les risques et conséquences

négatives Ø  Identifier les opportunités pour tirer un

meilleur profil tes technologies FABI - 21 avril 2016

TA : rôle des ingénieurs Ø  Participent à l’évaluation

Ø  avant l’introduction des nouvelles technologies Ø  mais seulement à l’issue de leur développement, une

fois la technologie définie dans ses principales caractéristiques

Ø  Fournisseurs de connaissances sur la technologie, les risques et les conditions de bon fonctionnement

Ø  l’expertise venant de l’ingénierie domine l’évaluation Ø  mais est interpellée par la volonté d’avoir aussi une

évaluation des impacts économiques, sociaux et environnementaux


Confrontés à de nouvelles approches Ø  L’évaluation est complétée par d’autres

expertises Ø  Compétition entre expertises Ø  Remise en cause des approches, théories et

méthodes préalablement utilisées Ø  Contestation du rôle des experts et des

méthodologues Ø  Prise en compte du processus de décision politique

et des limites de l'expertise Ø  Prise en compte d’une large variété de perspectives Ø  Intégration de la controverse (potentielle) sous une

forme dépassionnée Ø  Participation des publics


Modèle de la trajectoire balistique

Trajectoire et impact calculables et déterminés par les conditions initiales : qualités techniques intrinsèques, conditions de lancement…


Modèle du déterminisme technologique � Développement technologique autonome

� Ne dépend pas de la société

� Explique le changement = impact sur la société


Conséquences pour l’évaluation � Ex post – une fois qu’on connaît les

caractéristiques de la technologique �  Évaluer pour choisir entre technologies �  Alerter sur les risques : early warning system

�  Éventuellement, empêcher l’introduction

�  Préparer la société pour l’adapter au changement �  Accompagner l’introduction et le changement

�  Réguler pour maximiser les bénéfices & minimiser les effets néfastes

� N’oriente pas le développement


La prise en compte des questions éthiques et sociétales dans la R&D et l’innovation est devenue, depuis un demi siècle, un sujet de préoccupation important, notamment pour les chercheurs et les ingénieurs


1er défi pour les ingénieurs Trouver le bon compromis

� Réduire les conséquences néfastes pour la société et la planète

� Tout en maximisant les bénéfices pour la majorité

�  Bénéfices et effets néfastes inégalement répartis


Critique du déterminisme technologique

� Des acteurs influencent le développement technologique dès la R&D et la conception

�  Les impacts dépendent de multiples facteurs

�  Il est possible d’agir en amont


Cheminement de l’innovation

Incertain : fait d’évènements contingents et de bifurcations Les trajectoires d’innovations, depuis la recherche fondamentale jusqu’à l’introduction de nouvelles technologies dans la société, sont émaillées de myriades de décisions, délibérées ou pas, qui infléchissent ces trajectoires et ont des effets plus ou moins durables, importants et irréversibles. FABI - 21 avril 2016

Confrontés à de nouveaux problèmes S&T ouvrent de nouvelles possibilités sources d’incertitudes quant aux usages, aux risques, aux effets inattendus


http://www.philippeledent.be/controle-de-lincertitude-23-question-de-culture-entrepreneuriale/

Dépendance de sentier

Contraintes progressivement accumulées et inscrites dans le réseau sociotechnique

Investissements Apprentissages Externalités de réseau


Risque d’irréversibilité

Dilemme de Collingridge


Degré de liberté Connaissances

Modèle de la coévolution des technologies & des sociétés


� Constructive TA �  Co-construction des

normes �  Implication précoce des

porteurs d’enjeux (early engagement)

� Expérimentation collective �  Real-time TA

2ème défi pour les ingénieurs Réduire les risques liés à l’irréversibilité


Comment faire pour disposer des meilleurs technologies pour une société meilleure tout en réduisant le coût humain, social et environnemental des essais et erreurs que nous commettrons en apprenant à façonner ces technologies ?


Face aux exigences de la société L’ingénieur ou le chercheur engagé dans des projets de R&D est de plus en plus souvent confronté à des questions éthiques et sociétales, c’est-à-à-dire celles qui portent sur le devenir des sociétés et de leur environnement, les options entre lesquelles choisir et les évolutions qu’il conviendrait d’éviter.


Nouvelles exigences de la société � >1960 : la croyance optimiste dans le

progrès s’effrite � Prise de conscience des limites de la

croissance et d’effets néfastes ou inattendus � Pollution, encombrement des villes, détérioration

de l’environnement

� Des protestations s’élèvent contre des technologies et questionnent leur légitimité

� Énergie nucléaire, génie génétique


Nouvelles exigences de la société �  Diminution de la confiance placée dans les experts

�  Un débat de fond et durable s’instaure quand à la manière de gouverner les S&T émergentes qui transforment la société

�  Souci de trouver dispositifs et méthodes permettant à la société d’exercer un contrôle démocratique sur les orientations technologiques en cours de définition

�  Vers une approche plus prudente : precautionary approach

�  Des entreprises craignent les réactions du publics (acceptabilité sociale) et les risques de retournement des marchés

�  Surtout en cas de désastre FABI - 21 avril 2016

Pour une innovation responsable

Intégrer les préoccupations sociétales dès la R&D

-  ELSA (ethical, legal and social aspects of technology)

-  ELSI (ethical, legal and social implications of technology)

Mobiliser des chercheurs en sciences sociales dans les projets de R&D pour que les ingénieurs intègrent ces préoccupations dans leurs décisions


Notion de recherche et innovation responsable

2014-2020 (UE): -  Implique la participation des

porteurs d’enjeux et des intéressés

-  Dès le début des activités de recherche

-  Les considérations éthiques sont considérées comme moteurs de l’innovation plus que des limites


Intégrer les problématiques sociétales dans la R&D �  Jadis héros associés à la science et au progrès

technique et moral, les ingénieurs seraient désormais suspects de succomber au vertige de la prouesse technique

�  Or, l'ingénierie développe une capacité de transformation du monde qui pose la question de son orientation et de ses finalités

�  Traiter questions et enjeux sociétaux précocement, avant que des irréversibilités problématiques ne se soient produites


3ème défi pour les ingénieurs Construire la co-responsabilité


� Le Code de conduite (EU) pour une recherche responsable dans les nanos invite les innovateurs à devenir co-responsables de ce qu’ils font, avec les autres acteurs de la société

1. Evaluer les promesses � Organiser leur discussion et évaluation � Avec les parties intéressées et les groupes

potentiellement concernés, directement et indirectement


�  Dès l’amont, acteurs S&T se font une idée de l’utilité potentielle

�  L’expriment pour convaincre partenaires et investisseurs

�  Leur vision gagne en consistance

�  Arguments, images, démos, données, connaissances, prototype…

�  Elle circule et se traduit sous forme de lignes budgétaires, d’investissements, de mobilisation d’acteurs

�  Elle oriente les premiers pas du développement technologique


2. Travailler avec les publics �  La prise en compte des différentes positions du

public �  En amont, permet de peser sur la définition de la

technologie en cours de développement et de s’assurer qu’elle intègre dans sa conception les éléments de son évaluation éthique et sociétale

�  Mais ne va pas de soi �  Le public n'est pas nécessairement intéressé à

participer �  La notion de public est polymorphe

�  Comment avec les groupes indirectement affectés mais pas constitués ?


3. Une responsabilité collective pour la profession � Difficile de traiter ces questions au niveau

individuel •  Prise de conscience, connaissance •  Résistance aux pressions

� Définir des responsabilités collectives � Concevoir des méthodes et des ressources

qui puissent être intégrées dans la pratique



Presses Polytechniques et Universitaires Fédérales, Lausanne, 2015

À paraître en janvier 2017: Vinck D., Prise en compte précoce des questions éthiques et sociétales dans la R&D, Editions Techniques de l’ingénieur

Documents

L'éthique de l'ingénieur face aux technologies et aux ... · et des limites de l'expertise ... Critique du déterminisme technologique ... Des entreprises craignent les réactions