28
L’ÉTRANGE HUMANITÉ DU TRANSHUMANISME. YVES CASEAU. D ANS UN ARTICLE PARU EN 2004, Francis Fukuyama a caractérisé le transhumanisme comme l’idée la plus dangereuse de l’histoire de l’humanité. Il y présente, en introduction, le transhumanisme comme l’ambition de libérer l’humanité de ses contraintes biolo- giques, puis nous prévient ensuite qu’il est facile de sous- estimer ce mouvement, que l’on pourrait voir comme un mélange de secte et de science-fiction. Il est vrai que cer- taines ambitions ou certaines pratiques, comme la congé- lation en attendant des jours meilleurs, peuvent faire sou- rire. Mais, c’est là le point fondamental de Fukuyama, l’ambition transhumaniste est déjà présente de façon implicite dans les programmes scientifiques actuels, et cette volonté de déconstruire le corps et la nature humaine est déjà à l’œuvre dans différentes disciplines, allant de la biologie à la robotique, où des progrès rapides ont été accomplis. Autrement dit, on peut parler d’une révolution du transhumanisme : le changement par l’homme de sa propre nature au travers d’outils et d’actions rendus possibles par la science et la technologie, est déjà en marche. Dans sa conférence « Où nous mène la techno- 133-160_CaseauNormal.qxd 14/10/13 11:41 Page 133

VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

  • Upload
    others

  • View
    0

  • Download
    0

Embed Size (px)

Citation preview

Page 1: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

L’ÉTRANGE HUMANITÉDU TRANSHUMANISME.

YVES CASEAU.

DANS UN ARTICLE PARU EN 2004, Francis Fukuyama acaractérisé le transhumanisme comme l’idée laplus dangereuse de l’histoire de l’humanité. Il y

présente, en introduction, le transhumanisme commel’ambition de libérer l’humanité de ses contraintes biolo-giques, puis nous prévient ensuite qu’il est facile de sous-estimer ce mouvement, que l’on pourrait voir comme unmélange de secte et de science-fiction. Il est vrai que cer-taines ambitions ou certaines pratiques, comme la congé-lation en attendant des jours meilleurs, peuvent faire sou-rire. Mais, c’est là le point fondamental de Fukuyama,l’ambition transhumaniste est déjà présente de façonimplicite dans les programmes scientifiques actuels, etcette volonté de déconstruire le corps et la naturehumaine est déjà à l’œuvre dans différentes disciplines,allant de la biologie à la robotique, où des progrès rapidesont été accomplis.

Autrement dit, on peut parler d’une révolution dutranshumanisme : le changement par l’homme de sapropre nature au travers d’outils et d’actions renduspossibles par la science et la technologie, est déjà enmarche. Dans sa conférence « Où nous mène la techno-

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 133

Page 2: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

médecine ? »1, Laurent Alexandre, chirurgien de forma-tion et entrepreneur dans le monde de la génétique per-sonnelle, prévient que le « le fantasme transhumaniste vadevenir au cours de ce siècle une réalité médicale ». Laproposition transhumaniste relève de la prospectivescientifique : elle illustre et projette des progrès actuels etspécule sur des progrès à venir. Il est donc facile de luiopposer une critique sceptique, mais ce serait — c’est lathèse de cet article — une voie trop facile qui ignore lesvraies questions posées.

La première partie de cet article s’attache à présenterce qu’est le transhumanisme, qui est souvent désigné par« H+ » de l’autre coté de l’Atlantique. Le « H » représentel’humanité d’aujourd’hui, le « + » signifiant la transforma-tion technologique et scientifique qui va améliorer cettehumanité. Cette partie traite des grands axes de ce pland’amélioration, à la fois dans les objectifs et les moyens.

La deuxième partie de cet article propose une critiquede ces ambitions, sur trois fronts. Premièrement, les diffi-cultés dans la réalisation des ambitions transhumanistessont fortement sous-estimées. C’est la partie facile de lacritique, dont nous verrons un peu plus loin qu’il faut lamodérer. Deuxièmement, le futur proposé n’est pas for-cément souhaitable. C’est le point central du sujet, maisqui ne sera pas développé en détail dans cet article, ce quirenvoie le lecteur à sa propre réflexion d’un point de vuemoral et philosophique.Troisièmement, le scénario trans-humaniste fait courir des risques multiples et importantsà notre société. Un des objectifs de cet article est de faire

CONFÉRENCE134

1 Conférence donnée à l’USI (Université du Système d’Information) enjuillet 2013, disponible sur Internet. Laurent Alexandre est l’auteur dulivre La mort de la mort — comment la technomédecine va bouleverserl’humanité, chez J.-C. Lattès (2011).

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 134

Page 3: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

prendre conscience au lecteur de ces risques, qui sonttrès réels précisément parce que la révolution scienti-fique sous-jacente est déjà en marche.

Il faut en effet rester prudent dans ses affirmations etévaluer ce risque en proposant une « critique de la critique »,en particulier du scepticisme radical du type « cela n’arri-vera jamais ». Cette troisième partie cherche à faire com-prendre pourquoi certains éléments de « H+ » sont plau-sibles. Il s’agit de ne pas rejeter en bloc le transhumanismecomme « une hypothèse farfelue », mais de saisir que cer-taines formes de cette transformation sont très probables,comme l’explique Laurent Alexandre. Le fait que la trans-formation soit déjà engagée rend la question des risquesbeaucoup plus prégnante qu’on ne pourrait le penser aupremier abord. La révolution transhumaniste est plausible.

I.

Présentation du transhumanisme.

Max More, qui est l’un des philosophes les plus repré-sentatifs du mouvement transhumaniste, définit le trans-humanisme2 comme « à la fois une philosophie fondéesur la raison et un mouvement culturel qui affirme lapossibilité et la désirabilité de l’amélioration fondamen-tale de la condition humaine au moyen de la science et dela technologie ».

135YVES CASEAU

2 J’emprunte la définition du transhumanisme au livre H+/- : Transhu-manism & its critics, édité par Gregory R. Hansell et William Grassie etparu en 2011 à la suite d’un colloque qui a réuni les partisans les pluscélèbres du transhumanisme et leurs opposants. C’est un excellentouvrage pour comprendre l’ampleur du débat que je vais décrire.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 135

Page 4: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

Le terme «H+ », utilisé en anglais, est un résumé de ceprogramme : H comme humanité, + comme augmenta-tion. Les axes “+” de H+ représentent des améliorationsde notre condition humaine : vivre plus vieux, être plusfort, disposer de plus de connaissances, de plus d’”intelli-gence”, vivre en étant plus heureux. Selon Hava Tirosh-Samuelson3, le transhumanisme repose sur l’idée que lacondition humaine peut être améliorée par la science etla technologie, dans la tradition des Lumières. Ce termed’amélioration est la traduction de « human enhancement »,une aspiration profonde de la culture américaine, commel’expliquent Simone Bateman et Jean Gayon4, qui distin-guent l’amélioration des capacités individuelles, l’amélio-ration de l’espèce humaine (biologique) et l’améliorationde soi (dans un dépassement de sa condition).

En revanche, le préfixe « trans » de transhumanisme faitbien référence à une rupture. Si un désir d’améliorationpeut être considéré comme « naturel », dans la médecineou dans l’outillage, il s’agit ici d’aller au-delà de l’humanité« ordinaire ». Le transhumanisme cherche à modifier lanature humaine pour l’améliorer.

Cartographie.

Quelles sont les promesses du transhumanisme ? Jem’appuie sur l’ouvrage Citizen Cyborg5, un livre relative-ment modéré qui commence par une cartographie des

CONFÉRENCE136

3 Ibidem, op. cit.4 Cf. « L’amélioration humaine : trois usages, trois enjeux », paru dansMédecine-Sciences et disponible en ligne.5 James Hughes, Citizen Cyborg — Why democratic societies must respondto the redesigned human of the future,Westview, 2004.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 136

Page 5: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

bénéfices. Ce livre est intéressant parce qu’il est écrit parune des figures du transhumanisme qui cherche à établirun dialogue avec les sceptiques. Il tient compte des aviscontraires et des oppositions aux thèses qu’il défend, etprésente de la sorte une vision « enthousiaste mais modé-rée » du programme transhumaniste.

• La première promesse est de « contrôler le corps » :au-delà des progrès continus de la pharmacie, il s’agitd’agir directement sur les gènes pour pallier des défi-ciences, ou augmenter des capacités, en particulier lescapacités physiques. Une autre approche technologiqueest celle des prothèses, dont le champ d’application aug-mente avec les nanotechnologies, pour étendre les capa-cités du corps dans toutes les dimensions (vitesse, puis-sance, vision, audition, etc.). Le développement de cesprothèses est stimulé dès à présent par des besoins théra-peutiques de réparation d’organes déficients. La proposi-tion transhumaniste les rend accessibles à tous, mêmesvalides, dans un objectif d’amélioration de performance.

• La deuxième promesse est de « vivre plus vieux » :pouvoir lutter contre le vieillissement, puis réparer cevieillissement, avec une panoplie chimique, biologique etnanotechnologique (en utilisant par exemple des nano-robots qui sont injectés dans le corps pour le réparer).

• Il s’agit ensuite de pouvoir « être plus intelligent »,grâce aux drogues qui stimulent les capacités cérébrales,grâce à la génétique, qui développe et favorise les gènesassociés aux performances intellectuelles, puis grâce auximplants, qui permettent d’associer l’intelligence humaineà celle de la machine.

• La dernière promesse est d’« être plus heureux », enparticulier grâce au progrès des neurosciences, en agissantsur le fonctionnement du cerveau. On retrouve la même

137YVES CASEAU

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 137

Page 6: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

approche double : agir sur les gènes et agir directementsur les équilibres chimiques. Il est possible (cela sera deplus en plus vrai dans le futur) de modifier les gènes d’unepersonne avec des approches de thérapie génique ; cetteapproche s’applique également à la reproduction assistéepour améliorer les enfants à naître.

Je ne parlerai pas dans cet article des sujets « limites »,ceux que l’on rencontre en poussant le raisonnement del’amélioration aux confins du « progrès » scientifique. Quelssont ces « sujets limites » ? Si l’on parcourt jusqu’au boutla piste de l’allongement de la durée de la vie, on aboutità l’immortalité. C’est le scénario du film In Time : noussommes devenus capables de supprimer totalement lesmécanismes de vieillissement. Si l’on pousse à l’extrêmele scénario de l’intégration entre l’homme et sa prothèsecognitive en silicium, on arrive à l’idée que la vie humainepeut se passer de l’enveloppe corporelle et migrer surdes ordinateurs (ce qui est désigné par le terme de« upload », un terme emprunté à l’informatique). Enfin, sil’on mène le scénario de la fabrication de robots « plusintelligents que l’homme » jusqu’à ses dernières consé-quences, on arrive à l’idée que l’homme a créé une« espèce supérieure », devant laquelle il ne lui resteraitplus qu’à s’effacer.

Pourquoi laisser ces « sujets limites » de côté ? Cesvisions extrêmes posent de nouvelles questions philoso-phiques et morales, qui sont en soi passionnantes. Néan-moins, parce que nous sommes aux limites de la prospec-tive et qu’il est délicat de prendre au sérieux des chosesqui semblent résolument impossibles, il est plus difficiled’avoir un débat serein. D’une certaine façon, ces casextrêmes détournent l’attention des sujets plus pratiqueset plus urgents que nous évoquerons dans la suite de cet

CONFÉRENCE138

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 138

Page 7: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

article. Nous allons nous intéresser dans cette premièrepartie aux trois piliers scientifiques et techniques dutranshumanisme, qui contribuent à la réalisation de cesquatre promesses, ce qui va nous permettre de mieux lescomprendre.

Génétique & Biologie.

Le transhumanisme s’appuie sur les progrès considé-rables qui ont été réalisés et que nous continuons de faire,en génétique et en biologie. La génétique est un des fon-dements de l’ambition transhumaniste parce que cettescience nous permet de décoder, de comprendre et modi-fier l’ADN qui constitue le « code » des êtres vivants. Leséquençage du génome humain, une formidable aventurescientifique qui a nécessité des années et des ressourcesexceptionnelles de calcul, est aujourd’hui accessible à unusage individuel parce qu’il demande désormais peu detemps et des ressources de calculs devenues banales. Sinous sommes aujourd’hui à l’ère du « décodage », l’ère dela « reprogrammation » n’est pas loin. Les mécanismesmoléculaires de l’ADN ont ainsi donné naissance au « mole-cular programming », avec des techniques qui permettentd’assembler des nano-robots en utilisant les même « briquesde base » que celles des tissus vivants.

Le deuxième socle du transhumanisme est le progrèscontinu en biologie moléculaire, qui permet d’identifierles réactions élémentaires des cellules, afin de piloter etde modifier leur fonctionnement. Les progrès en nano-technologie sont essentiels car ils permettent d’apporterles réactifs chimiques précisément au bon endroit. Cesdeux approches culminent avec l’ambition de stopper levieillissement, une ambition illustrée par le livre d’Aubrey

139YVES CASEAU

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 139

Page 8: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

de Grey6, un spécialiste anglais de gérontologie. Même s’ilest controversé, cet ouvrage explique très sérieusementles mécanismes de vieillissement et comment on peutintervenir pour les ralentir dans un premier temps, voireles interrompre un jour. Son projet SENS — Strategies forEngineered Negligible Senescence, autrement dit stratégiespour réduire par ingénierie le vieillissement à des pro-portions négligeables — est financé par Peter Thiel, unmilliardaire de la Silicon Valley.

De façon symétrique au travail sur la fin de vie, lestranshumanistes s’intéressent à l’amélioration des perfor-mances au moment de la naissance. L’outil principal estdans ce cas la manipulation des gènes de l’embryon. Onretrouve des tentations eugénistes, de sélection ou de« réparation » des gènes des enfants à naître. Compte tenudes difficultés techniques de la « reprogrammation »génétique sur un adulte, il n’est pas étonnant que l’utili-sation sur un embryon vienne « en première ligne », soitde façon destructrice pour supprimer un embryon « dontles gènes sont insatisfaisants », soit de façon « réparatrice ».Le « droit à programmer son enfant » est un des premierssujets moraux qui va émerger de façon conflictuelle dansles années à venir, ce qui est parfaitement illustré dansCitizen Cyborg.

Intelligence Artificielle.

La recherche en intelligence artificielle joue un rôleclé dans le transhumanisme, pour lequel elle constitue àla fois un objectif et un outil. C’est un objectif pour aug-

CONFÉRENCE140

6 A. de Grey, Ending Aging — The Rejuvenation Breakthroughs That CouldReverse Human Aging in our Lifetime, St Martin’s Griffin, 2008.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 140

Page 9: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

menter nos capacités intellectuelles, la troisième pro-messe de notre liste. Pour devenir plus intelligent, lestranshumanistes prévoient en effet de compléter notrecerveau avec une intelligence artificielle, qui est soitimplantée (une puce dans le crâne) soit externe mais enliaison directe avec notre propre intelligence. L’intelli-gence artificielle constitue également un outil pour letranshumanisme, en ce qu’elle promet de dépasser leslimites de ce que nous savons faire aujourd’hui.

Cette notion de couplage fusionnel entre l’homme etl’ordinateur peut surprendre, mais nous n’en sommespas si loin. Une grande partie de l’humanité est équipéede « smartphones » qui jouent déjà un rôle de prothèsecognitive. La disponibilité d’informations et d’outils demanipulation de connaissance, en permanence, affectedéjà notre façon de penser et de voir le monde7. Les progrès de la miniaturisation sont constants : on sait déjàminiaturiser un ordinateur personnel sur une têted’épingle pour aider les aveugles à voir. Il n’est pas illo-gique de penser que les techniques d’implants, actuelle-ment au stade expérimental, puissent devenir courantesun jour.

Une des idées fondamentales du transhumanisme estla notion de singularité, que l’on doit à Ray Kurzweil8,même si on peut la faire remonter à Von Neuman ou àVernor Venge. La singularité désigne le moment où l’in-telligence artificielle que l’on peut construire sur unemachine ou un ensemble de machines dépasse celle de

141YVES CASEAU

7 Ce sujet dépasse le cadre de cet article, mais est très bien évoqué parNicholas Carr dans son livre The Shallows — What Internet is doing to ourbrains, Norton, 2011.8 Ray Kurzweil, The Singularity is Near : When Humans Transcend Biology,Penguin Books, 2006.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 141

Page 10: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

l’homme. En prenant un modèle simple de la perfor-mance intellectuelle, fondé sur l’apprentissage et laconnexion, les prospectivistes constatent deux choses : lesordinateurs les plus puissants aujourd’hui sont encore loindes performances du cerveau (en nombre de connexionsen particulier, puisqu’on parle de 1015 connexions entre 1011

neurones), mais les progrès constants depuis des décen-nies permettent de prévoir que cela changera d’ici 20 à30 ans9. La singularité a rencontré un véritable enthou-siasme dans la Silicon Valley. Une « Université de la Sin-gularité » a été créée, que financent nombre de grandesentreprises comme Google. L’influence de la singularitésur des chefs d’entreprise comme Larry Page, le PDG deGoogle, est manifeste. Une partie de la stratégie à longterme de Google est construite sur l’avènement de cetteintelligence artificielle.

Si l’on adhère à cette idée de la singularité, on com-prend dès lors l’utilisation de l’intelligence artificielle entant qu’outil pour le transhumanisme. Nous allons dispo-ser d’un outil qui nous dépassera, et qui va donc accélé-rer le rythme de l’évolution. C’est une sorte de « carteblanche » dans la prospective : il devient donc difficilede prévoir la suite.

NBIC et Robotique.

Pour conclure, les ambitions du transhumanisme repo-sent sur les progrès spectaculaires et constants des NBIC :Nanotechnologies, Biologie, Informatique et Sciences

CONFÉRENCE142

9 Une des lois empiriques les plus connues, « la loi de Moore », postuleque la puissance de calcul des ordinateurs double tous les 18 mois (lirel’article de Wikipedia pour un énoncé plus précis).

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 142

Page 11: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

Cognitives. Ces quatre disciplines sont souvent regrou-pées car elles forment un ensemble aux frontières floues,mais ont surtout des interactions très fortes. Autrementdit, les intersections entre ces quatre disciplines sont trèsimportantes, et elles jouent chacune un rôle crucial dansle développement des autres.

Le site internet permettant de mieux comprendre lesintérêts de la communauté transhumaniste — qui s’appellelogiquement « Singularity Hub »10 — est une lettre d’actua-lité qui contient toutes les informations de la commu-nauté scientifique touchant aux découvertes en biologie,robotique, nanomatériaux, chimie et informatique. Sestrois thèmes clés sont les progrès de la médecine, laminiaturisation et le développement de l’intelligenceautonome des robots. Ce site est intéressant parce qu’ilillustre ce que nous avons dit en introduction : la révolu-tion est déjà engagée. On ne trouve pas sur ce site dedéclarations philosophiques ou futuristes sur ce quel’humanité devrait être ; on y trouve en revanche, jouraprès jour, un résumé des avancées scientifiques les plusrécentes et les plus spectaculaires. Et souvent la réalitédépasse la fiction.

Le développement des robots, en particulier des robotsde compagnie, ne relève pas de la science-fiction. Les pro-grès, en particulier au Japon, sont déjà impressionnants,dans la capacité de ces robots à se déplacer, à comprendredes ordres simples, à rentrer dans un dialogue que l’onpourrait qualifier d’émotionnel, grâce à des capteurs etune boucle de retour, qui fait que le robot s’adapte conti-nument aux réactions de son entourage. Par exemple,les robots lisent les expressions des visages et essayent de les reproduire. La diffusion de la série Real Humans sur

143YVES CASEAU

10 http://singularityhub.com/

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 143

Page 12: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

Arte, par son réalisme et sa pertinence technologique,montre ainsi que le sujet de l’arrivée des robots auto-nomes et androïdes commence à intéresser la sociétécivile.

Les progrès considérables de la robotique sont liés enpremier lieu à la perception : la captation de signaux à trèsgrand débit avec une haute précision. Un exemple intéres-sant est le bras robotisé de l’Université de Tokyo, capable derattraper un œuf ou de jouer au baseball avec une précisionsupérieure à un joueur professionnel. Le robot accomplitcette prouesse car il voit la balle ou l’œuf à la vitesse de50 000 images/seconde. À cette vitesse de captation, tout luisemble se dérouler « au ralenti ». Un deuxième exemple estfourni par la « Google Car », capable de conduire de façonautonome au milieu du trafic et des piétons.

II.

Point de vue critique sur la faisabilité de H+.

Une vision partiale qui masque les difficultés.

En premier lieu, le discours technologique et scienti-fique qui soutient l’ambition transhumaniste n’est passans fondement, mais il souffre d’une forte tendance àsous-estimer les difficultés. Cela ne contribue pas à undébat serein et la question de la crédibilité se pose d’em-blée. De plus, les prospectivistes se plaisent à annoncerdes dates, qui sont presque toujours des dates « au plustôt », dans une vision optimiste où les courbes exponen-tielles de progrès, telle que la Loi de Moore, se poursui-vent indéfiniment. Il est naturel de situer des jalons dans

CONFÉRENCE144

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 144

Page 13: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

le cadre d’une réflexion prospective, mais il est domma-geable de masquer les incertitudes pour donner un fauxsens de l’urgence. Michio Kaku, dans son livre Physics ofthe future »11, prévoit au contraire un développement pluslent, et beaucoup plus incertain. Cependant, on retrouvedans son livre la plupart des thèmes que je viens d’évo-quer. En particulier, les trois chapitres consacrés au déve-loppement de l’intelligence artificielle, des nanotechno-logies et de la médecine reprennent une partie desobjectifs des transhumanistes que nous avons évoquésdans la première partie. Il prévoit la révolution de la« gene therapy » et des « designer children » au milieu de cesiècle, et les progrès sensibles sur le retardement du vieil-lissement à la fin du XXIe siècle.

La connaissance scientifique, qui se développe rapide-ment en même temps que nos outils d’investigation, nouspermet de jouer avec des leviers fondamentaux, mais pasde les comprendre — et moins encore de les prévoir. Parexemple, on constate avec un peu de recul les exagéra-tions dans les domaines d’application de la génétique, enmatière de sur-promesses du séquençage du génome.Nous ne sommes pas un ADN, il ne suffit pas d’avoirdécodé pour pouvoir agir. C’est ce qu’exprime très claire-ment Jean-Claude Ameisen, président du ComitéConsultatif national d’éthique12 : « L’essentiel est de bien

145YVES CASEAU

11 Physics of the future — How science will shape our human destiny and ourdaily lives by the year 2100, paru chez Random House en 2011. MichioKaku est un physicien théorique renommé pour ses travaux sur lathéorie des cordes qui a fait de multiples interviews auprès des scienti-fiques les plus connus pour produire cet ouvrage de prospective.12 Cette citation, et quelques autres, sont empruntées à l’excellent livrede Monique Atlan et Roger-Pol Droit : Humain — une enquête philoso-phique sur ces révolutions qui changent nos vies, paru chez Flammarion en2012.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 145

Page 14: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

voir que ce qu’on comprend et manipule n’est qu’unepartie et peut-être pas la partie essentielle de la vie. Ilexiste ainsi toute une série de phénomènes profondé-ment mystérieux qui peuvent à bon compte me paraîtremoins mystérieux, et donc moins discutables, à partir dumoment où je peux “jouer avec”. C’est contre cette sim-plification illusoire que nous devons nous battre. »

Le manque d’humilité face à la complexité.

La deuxième critique touche au manque completd’humilité du courant transhumaniste face à la com-plexité des processus vivants qu’il souhaite modifier. Pourreprendre les mots de William Grassie13, « le problème quipeut mettre à mal les espoirs et les craintes des prophètesde la Singularité est la nature du chaos et de la com-plexité ». La science des systèmes complexes — qui sontdéfinis par la nature des interactions entre les différentséléments du système — montre qu’ils résistent à l’analyseet à la prévision, et nous réservent de nombreuses consé-quences inattendues. La question du manque d’humilitéde l’homme face aux systèmes complexes en général et à lanature en particulier se retrouve dans tous les domaines14.Le fait de pouvoir agir n’a aucune corrélation avec la maî-trise, et le fait de comprendre le premier niveau de réac-tion d’un système n’a aucune influence sur la capacité àprévoir les réactions à long terme, une capacité que nous

CONFÉRENCE146

13 H+/- : Transhumanism and its critics, op. cit.14 Ce qui est remarquablement expliqué par Kevin Kelly dans son livreOut of Control — the new biology of machines, social systems, & the economicworld, paru en 1994 chez Addison Wesley, avec des exemples tirés de lapréservation des écosystèmes naturels.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 146

Page 15: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

n’avons pas et n’aurons jamais, précisément à cause decette complexité.

Dans son même article, William Grassie revient surl’extraordinaire complexité du réseau de réactions chi-miques et biologiques qui se produisent dans une simplecellule. Il y a quelques trillions de réactions par secondedans une cellule, et notre corps contient 10 trillions de cel-lules. Contrairement à la physique statistique qui reposesur l’indépendance des micro-événements, les réactionsdans une cellule sont fortement couplées. On pourraitfaire un parallèle avec l’analyse des marchés financiers : ilssont très difficiles à prévoir, dans leur comportementsextrêmes, parce qu’il ne s’agit pas d’une somme de déci-sions d’acteurs indépendants — ce qui permettrait d’ap-pliquer des méthodes statistiques classiques — mais biend’acteurs dépendants qui apprennent du comportementdes autres15. Jean-Claude Ameisen dénonce une visiontrop étroite des phénomènes que les transhumanistessouhaitent manipuler : « La génétique de la “posthuma-nité”, c’est une génétique déjà vieille ! C’est une génétiquesans la compréhension que fournit l’épigénétique. Lesnanotechnologies, c’est de la physique grossière, par rap-port à la physique qui se joue au niveau quantique. »

Face à la complexité, les scientifiques travaillent surl’émergence. Je reprends ici la citation de Georges Matisseproposée par Jean-Michel Besnier16 : « L’émergence faitsurgir dans un système des propriétés originales, des phé-nomènes improvisés, des lois inattendues, qui n’appar-tiennent pas aux éléments composants ». Jean-Michel

147YVES CASEAU

15 Je renvoie le lecteur au célèbre livre de Nassim Taleb, The BlackSwan, paru chez Random House en 2009.16 Cité dans Demain les posthumains — Le futur a-t-il encore besoin de nous ?,Hachette, 2009.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 147

Page 16: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

Besnier décrit la « nouvelle démarche » scientifique commeémergente ou « bottom-up » : « Ses succès se mesurerontplus à l’aune de créations qui la surprendront elle-mêmeque par la conformité de ses réalisations à des cahiers descharges préétablis ».

Perception et pensée sont indissociables.

Une troisième faiblesse structurelle du discours trans-humaniste est d’ignorer le fait que perception et penséesont indissociables. Pourtant, il s’agit d’une thèse dont laconsolidation s’est fortement accélérée d’un point de vuescientifique ces vingt dernières années. Les prévisionscognitives fondées sur le raisonnement sont fausses, toutmontre au contraire que les interactions entre la penséerationnelle, les émotions et les différentes perceptions ducorps sont complexes et fondamentales. On pourrait citerici les travaux d’Alain Berthoz sur la perception, ou bienencore les travaux de Francisco Varela sur la corporéité del’esprit17.Alain Berthoz a travaillé sur la vision, et il expliquequ’il y a un continuum inséparable entre la perception et lapensée. C’est l’ensemble du corps qui participe à l’acte depensée lorsque je vois un objet ou une scène.

Ce point est fondamental à cause de la tendancenéfaste du mouvement transhumaniste à rejeter le corps.Jean-Claude Guillebaud l’explique très bien dans plu-sieurs de ses livres18 : le transhumanisme se nourrit de lahonte prométhéenne de Günther Anders : « La honte qui

CONFÉRENCE148

17 Alain Berthoz, La Décision, Odile Jacob, 2003 ; Francisco Varela, EvanThompson, Eleanor Rosch, L’inscription corporelle de l’esprit, Seuil, 1993.18 J.-C. Guillebaud, Le principe d’humanité, Seuil, 2001, ou La Vie vivante,Les Arènes, 2011.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 148

Page 17: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

s’empare de l’homme devant l’humiliante qualité deschoses qu’il a fabriquées »19. On trouve beaucoup de réfé-rences hostiles au corps dans les propos transhuma-nistes, en le traitant par exemple de « viande ». Le corpsest perçu comme une contrainte, un frein à nos aspira-tions et une mécanique grossière et fragile. Ne pas com-prendre l’importance du corps et de nos sens dans ce quifait notre humanité n’est pas simplement un point dedésaccord intellectuel, c’est une véritable erreur scienti-fique. D’un point de vue moral ou philosophique, onpeut constater que la vulnérabilité est fondamentale dansle principe d’humanité. Mais ce qui est frappant depuisune vingtaine d’années, c’est l’émergence d’un consensusdans la communauté scientifique sur le rôle indivisibledu corps dans l’ensemble de nos processus vivants : per-ception, émotion, pensée et décision. Il y a donc une cer-taine urgence à partager cette connaissance, ce quipousse Jean-Michel Besnier à écrire à propos du transhu-manisme20 : « Mais d’où vient que les scientifiques, quandils ne s’y rallient pas, n’opposent guère de résistance auxfantasmes qui entourent cette convergence technolo-gique ? Serait-ce parce qu’ils sont aussi victimes de cettemésestime de soi qui rend vulnérable et réceptif aux pro-messes d’une transfiguration de l’humain ? »

Difficulté à orienter le progrès.

Dans son texte cité en introduction, Francis Fukuyamaexplique la difficulté à garantir que les changements

149YVES CASEAU

19 G. Anders, L’Obsolescence de l’homme, Encyclopédie des Nuisances,2002.20 Demain les post-humains, op. cit.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 149

Page 18: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

proposés par le programme transhumaniste soient réelle-ment des « améliorations ». Cette question dépasse lepérimètre de cet article, mais il est néanmoins intéressantd’illustrer ce questionnement par quelques exemples. Larecherche de l’augmentation de la force pose la questionde la valeur de la fragilité. Comme le remarque Xavier LePichon21, dans un système complexe, c’est ce qui est fra-gile qui cède et qui permet de s’adapter. Un système tropsolide et trop rigide ne s’adapte pas et meurt. NassimTaleb propose un raisonnement semblable22 : vouloir aug-menter la durée de vie de façon indéfinie ignore le rôledes cycles de vie dans l’évolution des espèces. La qua-trième promesse, celle de contrôler l’humeur et de garan-tir un état de « bonne humeur », oublie le rôle clé desémotions (des mauvaises comme des bonnes) dans lacréativité et dans l’art. De la même façon, il n’est pas évi-dent que l’augmentation de la mémoire dans des propor-tions très importantes soit forcément un progrès. Unepartie de ce qui construit notre intelligence est notrecapacité à oublier. De nombreuses expériences ont mon-tré qu’il n’y a pas de causalité nécessaire entre la qualitéde nos décisions et la quantité des informations dispo-nibles. L’équilibre entre perception, émotion et raisonne-ment que nous avons évoqué dans la section précédentejustifie également les doutes sur l’efficacité d’une aug-mentation spectaculaire de la vitesse de raisonnement aumoyen d’implants de puces électroniques.

Si l’on pousse cette analyse plus loin, on arrive à sedemander de quelle humanité le transhumanisme est

CONFÉRENCE150

21 Voir par exemple, sa conférence « Fragilité de la terre, fragilité de l’homme : une alliance cachée ? » au collège des Bernardins le 16 octobre 2012.22 N.Taleb. Antifragile, Random House, 2012.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 150

Page 19: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

une « version augmentée ». Le « H » dont part le « H+ » estune version réduite, individualisée et mécanique de l’hu-main. Jean-Pierre Dupuy nous met en garde23 : « Je suismoins choqué par une science qui se prétend à l’égal deDieu que par une science qui supprime une des distinc-tions les plus fondamentales dans la quête de sens quemène l’humanité depuis qu’elle existe, la distinctionentre ce qui est vivant et ce qui ne l’est pas, ou, pour par-ler clairement, entre la vie et la mort ». Dans le livreHumains précédemment cité, il écrit : « C’est très simple :pour que l’homme puisse se manipuler lui-même, il fautd’abord qu’il se réduise au rang de mécanisme aveugle ».

Si cette orientation du « plus » de « H+ » est difficile àapprécier, à qui doit-on la laisser ? Le mouvement trans-humaniste fait confiance à la loi du marché. Ray Kurzweilaffirme24 : « Je pense que le fait de maintenir un marchélibre et ouvert pour le progrès incrémental scientifique ettechnique, dans lequel chaque étape est sujette à l’accep-tation de ce marché, nous offrira l’environnement le plusconstructif dans lequel la technologie peut intégrer ets’approprier les valeurs humaines les plus répandues ».C’est clairement un point qui fait débat et qui inquiète, àjuste titre, les observateurs du transhumanisme. Citonspar exemple Jürgen Habermas25 : « Il est difficile pour lesprofanes d’apprécier jusqu’où, au juste, on peut allerdans le développement des technologies permettant une

151YVES CASEAU

23 H+/- : Transhumanism & its critics, op. cit.24 Cité par Ted Peters dans H+/- : transhumanism & its critics : « I believethat maintaining an open free-market system for incremental scientificand technological progress, in which each step is subject to marketacceptance, will provide the most constructive environment for tech-nology to embody widespread human values ».25 Humains, op. cit.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 151

Page 20: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

“amélioration” de l’organisme humain. Parce que tout celaa lieu en dehors de toute publicité, au sein d’entreprisesprivées. »

Bonheur de l’individu et bonheur collectif.

Je conclurai cette deuxième partie par la remarquesuivante : le transhumanisme s’intéresse avant tout à l’in-dividu et à son bonheur, au lieu de réfléchir au collectif, àl’humanité dans son ensemble. Ces transformations, sielles sont possibles, seront effectuées selon des lois demarché, et risquent donc de mettre encore plus à mal lacohésion de la société, augmentant les différences entreceux qui ont accès aux « améliorations » et les autres. Lefonctionnement collectif repose sur des principes de jus-tice et d’empathie. Les différences sont acceptables etintégrables dans nos codes relationnels, jusqu’à un cer-tain point. Certains transhumanistes sont sensibles à cerisque, dont James Hughes que j’ai cité précédemment,mais ils n’ont pas de véritable réponse.

À l’enthousiasme transhumaniste pour les progrès desrobots, on doit opposer la capacité de l’humanité à s’ac-commoder de la disparition progressive d’une grande par-tie des tâches, manuelles ou intellectuelles. Dans leur livreRace against the machine26, les auteurs montrent bien lesdangers de la robotisation du point de vue social et écono-mique. Il s’agit d’une « destruction créatrice » au sens deSchumpeter, mais toute la question est de savoir comment,

CONFÉRENCE152

26 Race against the machine — how the digital revolution is acceleratinginnovation, driving productivity and irreversibly transforming employmentand the economy, par Erik Brynjolfsson et Andrew McAfee, Digital Fron-tier Press, 2011.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 152

Page 21: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

ou si, la société pourra créer autant d’emplois, et à la mêmevitesse, que ceux détruits par l’automatisation massive quela robotisation et l’intelligence artificielle vont rendre pos-sible. La visite des usines « sans employés » au Japon, c’est-à-dire moins de 20 personnes pour plus d’un kilomètrecarré d’usine, donne une idée de l’ampleur de la question.Ici aussi, personne n’a pour l’instant de réponse claire.

Kevin Kelly propose sa réponse dans un article très inté-ressant de Wired dont le titre pose la question suivante : « Si70% des employés américains étaient remplacé par desrobots, que feraient-ils ? »27 Il commence par la proposition« les robots arrivent et vont prendre notre travail, nousdevrions être contents ». Il explique comment la plupart desemplois vont devenir progressivement mieux occupés pardes robots que par des humains, selon une logique sem-blable à celle de la série Real Humans que nous avons évo-quée plus tôt. Pour lui, il ne s’agit pas d’une course « contreles machines », mais « avec les machines ». Sa conclusions’inscrit dans la même vision optimiste que le transhuma-nisme : les robots feront notre travail mieux que nous etnous permettront de nous découvrir de nouvelles activitéset de nous transformer en de meilleurs humains que nousne le sommes aujourd’hui. Nous voyons donc qu’il s’agit, defaçon plus restreinte, du même débat que celui du trans-humanisme : 1. il nous est proposé un « futur radieux » etune vision « améliorée » de la société humaine ; 2. nousvoyons que c’est technologiquement possible et probable-ment sur le point de se développer, au moins partiellement ;3. le sujet évident est celui des risques, et en particulier lerisque sur la cohésion de la société humaine.

153YVES CASEAU

27 « Better than human — Imagine that 7 out of 10 working Americansgot fired tomorrow.What would they all do ? », Wired, janvier 2013.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 153

Page 22: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

III.

Contrepoint critique sur la non-faisabilité de H+.

Les échecs du passé ne sont pas indicatifs du futur.

Le sujet de l’intelligence artificielle, parce qu’il a étéécorné par des fausses prévisions et des prétentions trom-peuses, engendre un réel scepticisme. Pourtant, nouscomprenons mieux les limitations qui rendaient les ambi-tions des années 1980 impossibles à réaliser, et certaines deces limitations sont en train de tomber. L’accès à des res-sources massivement parallèles permet de faire des chosesqui étaient inenvisageables il y a dix ans. Par exemple, savoiridentifier des animaux (reconnaître un chat parmi des mil-liers) grâce à un réseau neuronal, une prouesse que Googlevient de réaliser sur un réseau de 20 000 ordinateurs.Un autre exemple est le fait que les correcteurs orthogra-phiques/syntaxiques sont maintenant « entraînés » sur descorpus de milliards de documents. La maîtrise de ces res-sources de calcul massives et distribuées de Google est telleque Laurent Alexandre déclare dans sa conférence citée enintroduction : « Il existe une première forme d’intelligenceartificielle dans le monde, c’est Google ».

La grande barrière traditionnelle pour la compréhen-sion du langage naturel est celle de la sémantique. Lesaspects lexicaux et syntaxiques sont à la portée du traite-ment informatique, mais le problème du sens a été unfrein jusqu’à aujourd’hui. L’accès à des milliards dedocuments donne de nouvelles pistes : par exemple, utili-ser le Web comme référent sémantique. La phénoméno-logie de la perception qui donne du sens au concept de« chien », à partir de l’expérience vécue de l’individu, peut

CONFÉRENCE154

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 154

Page 23: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

être remplcée par des volumes massifs de documents col-lectifs qui portent sur les chiens. En utilisant l’ensembledes informations disponibles sur le Web associée à uncontexte, on « donne un sens » à ce concept. Ce qui auraitété impossible jusqu’à une date récente, en raison desvolumes d’information à manipuler, permet de donner àla machine le « sens commun » qui lui manquait.

La conséquence de ce qui a été dit en deuxième partieest qu’il ne peut pas y avoir d’intelligence artificielle sansperception, mais précisément les progrès des réseaux et destechnologies donnent aux robots et aux programmes l’accèsà des sources constantes d’information sur le monde réel.Si l’on combine la perception, une puissance de raisonne-ment importante, avec la « perception et l’image de soi »,ainsi qu’un ensemble dynamique de « finalités », il est pos-sible de construire une conscience artificielle, au sens deTuring (difficile à distinguer, au travers d’une série de ques-tions-réponses, de celle d’un humain). Au-delà de l’argu-ment philosophique (est-ce une « vraie conscience » ?), cetteconscience « émergente » peut jouer un rôle clé dans l’auto-nomie des « machines intelligentes ». Autrement dit, il estprobable que nous allons voir arriver des robots autonomesdont le comportement ressemblera beaucoup à un « com-portement intelligent ».

Argument de la singularité.

Le concept de « singularité » peut sembler spécieux carson élaboration est fragile par construction : elle reposesur une vision simpliste de l’intelligence et une prospec-tive optimiste donc discutable. Cependant, l’argument dela singularité ne doit pas être ignoré trop vite, car une par-tie de ses prémisses sont fondées. Il y a trois postulats

155YVES CASEAU

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 155

Page 24: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

dans la théorie de la singularité : (a) le fait que la puissancede calcul disponible augmente sans arrêt et puisse dépas-ser un jour la puissance de traitement des connexions ducerveau humain ; (b) le fait que ce dépassement produise lacréation d’une intelligence supérieure à la notre ; (c) la dateprévue de croisement, vers 2030-2040. Les deux dernierspoints sont très discutables, mais le premier est assezfondé. Même si la course à la puissance déductive (quis’appuie sur la Loi de Moore) est semée d’embûches, il esttrès probable que nous disposerons dans quelques décen-nies de puissances de calcul véritablement formidables,permettant de donner à l’intelligence artificielle un champd’action insoupçonné.

Cette explosion de la puissance de calcul, de traitementet de raisonnement s’amplifie dans le cercle d’auto-enri-chissement NBIC (nano-biologie-informatique et sciencescognitives) dont nous avons parlé dans la première partie.De la même façon que l’avancée des sciences et celle destechnologies vont irrémédiablement de pair, les outils demodélisation, simulation et contrôle sont au cœur du déve-loppement des nanotechnologies et de la biologie. La tech-nologie bénéficie des avancées de la science pour construirede nouveaux outils, mais, de façon réciproque, la science abesoin des outils pour construire ses questions et y appor-ter des réponses. Il existe une relative indépendance : deschamps technologiques qui se développent avant que ladémarche scientifique permette de les comprendre (c’est leprincipe de l’expérimentation que nous allons aborder pourterminer) et des principes scientifiques qui sont posés avantque la technologie existe qui permette de les valider. Cepen-dant, de façon générale, le domaine technologique du trans-humanisme peut être décrit comme « la digitalisation duvivant », et la révolution continue de la technologie digitaleva amplifier le champ des possibles de façon spectaculaire.

CONFÉRENCE156

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 156

Page 25: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

Cela donne un certain crédit à l’affirmation selon laquelleles technologies de demain permettront des choses qui sontinenvisageables aujourd’hui. En conséquence, il faut êtreaussi prudent et critique face aux négations — les proposqui renvoient le transhumanisme au rang de fantaisie descience-fiction — que face aux annonces enthousiastes etquelque peu naïves de la communauté transhumaniste.

Le principe de l’expérimentation.

Toute la science est en train de basculer dans le prin-cipe de l’expérimentation, ce que Francis Fukuyamanous expliquait déjà en 2004 dans le texte cité en intro-duction : l’expérimentation a toujours joué un rôle fon-damental en science, mais au service d’un raisonnementet un modèle. L’expérimentation remplace progressive-ment le raisonnement et le modèle. Ce phénomène esttrès bien décrit par Jean-Pierre Dupuy ou Étienne Klein :« Autrefois, l’ingénieur était capable de dire ce qu’il allaitfaire, parce qu’il jouait sur des déterminismes qu’il maî-trisait. […] Aujourd’hui, on essaie d’abord puis on regardele résultat : l’ingénieur ne sait pas d’avance ce qu’il vaobtenir. » On pourrait penser que certaines expérimenta-tions génétiques ou microbiologiques de la communautéscientifique qui se réclament du transhumanisme sont« extrêmes », une sorte de bricolage sans maîtrise, maisc’est l’ensemble de la science moderne qui se place deplus en plus dans le domaine de l’expérimentation émer-gente. La question du risque des expérimentationsscientifiques liées au transhumanisme s’inscrit dans undébat plus large, celui de la science face aux systèmescomplexes. Plus le champ d’investigation rencontre cetteforme de complexité, plus l’expérimentation « sans filets »

157YVES CASEAU

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 157

Page 26: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

devient naturelle. En 2008, Chris Anderson a déclaré :« Le déluge de données rend la méthode scientifiqueobsolète ». Nos expériences produisent tellement dedonnées qu’il est illusoire de vouloir les analyser enprofondeur, il suffit de détecter « des choses intéres-santes ». Autrement dit, à l’heure des « big data », la cor-rélation suffit, il n’est plus besoin de comprendre lescausalités.

Il est clair que nous sommes entrés dans un mondepassionnant pour de jeunes scientifiques, car les possibi-lités qui leur sont offertes d’expérimenter avec le vivantsont incroyables. Les campus universitaires américainspermettent à de jeunes étudiants de faire toutes sortesd’expériences, tandis que nous constatons une baisse ver-tigineuse du coût des séquenceurs génétiques. Face audésir d’expérimentation et à la facilité grandissante, nousavons besoin de principes, de lois et de comités d’éthiques.Je voudrais faire ici deux citations issues d’un reportageBloomberg à l’Université de la Singularité28 : « N’importequi va pouvoir devenir un designer généticien » et « LeDNA synthétique va devenir un produit de masse, per-mettant au plus grand nombre de programmer de nou-velles formes vivantes ». Symétriquement, ces possibilitésouvrent la voie à toutes sortes de risques et d’abus. Pourreprendre les propos de Ted Peters29 : « Les transhuma-nistes sont naïfs parce qu’ils ne prennent pas assez encompte la propension des êtres humains à utiliser deschoses neutres, voire bonnes, à des fins égoïstes, produi-

CONFÉRENCE158

28 Bloomberg Brink, une série consacrée au futur des technologies.L’émission de juin 2004 était consacrée à la « Singularity University » ;les citations sont de Austin Heinz, PDG d’une entreprise dans ledomaine du DNA programming.29 H+/-: Transhumanism and its critics, op. cit.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 158

Page 27: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

sant le chaos et la souffrance ». De façon réciproque, ilserait naïf d’ignorer le problème, car la boîte à outils estdevant nous, ouverte, et à la portée d’un très grandnombre.

*Cet article reprend le contenu d’un exposé présenté

lors de la séance de travail de l’Académie Catholique deFrance du 14 juin 2013 au Collège des Bernardins à Paris.Son objectif était de motiver les intellectuels en général,et l’Académie Catholique de France en particulier, àentrer dans le débat sur le transhumanisme. Il y a unbesoin évident de combler un vide créé par l’autodes-truction de l’humanisme scientifique, pour reprendre lespropos de Jean-Pierre Dupuy : « La science est extraordi-naire quand il s’agit de détruire les réponses métaphy-siques, mais elle est incapable de leur apporter des sub-stituts ». C’est en partie ce qui explique « le retour dessavants fous », selon l’expression de Jean-Claude Guille-baud dans son livre Le Principe d’humanité. Le « savantfou » est l’illustration métaphorique du principe d’expéri-mentation, de la « science sans conscience ». Mais nousassistons également au développement d’une décons-truction de l’homme, nourrie par une certaine interpréta-tion du bouddhisme30, qui sert de support moral et philo-sophique à une transformation radicale.

159YVES CASEAU

30 Pour comprendre la façon dont le principe de l’« effacement de soi »peut être utilisé comme fondement pour ne voir dans l’homme qu’unprocessus, il faut lire L’inscription corporelle de l’esprit, op. cit. Cettevision de l’homme comme un processus, en dehors de toute spiritua-lité et matérialité, est un pivot des visions les plus extrêmes du trans-humanisme.

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 159

Page 28: VES ASEAU D › 2015 › ... · L ’ ÉTRANGE ... manism & its critics, édité par Gregory R. Hansell et William Grassie et paru en 2011 à la suite d’un colloque qui a réuni

Une partie des transformations promises par le trans-humanisme est déjà à l’étude dans nos laboratoires : nonpas sous la forme d’un « big bang », mais sous celle d’unemultitude de « petits changements », rendus possibles parla technologie. C’est parce que ces « transformations »sont multiples et « petites » qu’il est difficile d’arrêter cecourant. En revanche, les risques sont bien là, puisque lacomplexité du vivant fait que de petits changements peu-vent avoir des grands effets, potentiellement catastro-phiques au sens de René Thom.

Ce diagnostic pose, à mon sens, deux questions. Toutd’abord, de quelles méthodes et de quels moyens dispo-sons-nous pour contrôler ces « petites transformations » ?Que signifie le principe de précaution dans le cadre dutranshumanisme ?

En second lieu, avons-nous la capacité à revenir enarrière si nous découvrons ensuite les effets néfastes deces transformations ? Que faut-il préserver de notrehumanité et comment ? Comme le déclare Jean-ClaudeAmeisen dans une émission diffusée sur Arte en 2013 :« Il faut conserver la réversibilité, la capacité à revenir enarrière ».

Yves CASEAU.

CONFÉRENCE160

133-160_CaseauNormal.qxd 14/10/13 11:41 Page 160