Les Carnets des Dialogues du Matin

HENRI ATLAN

L’avenir de laprédiction

www.institutdiderot.fr

..................................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

..................................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

Les Carnets des Dialogues du Matin

Retranscription de la conférence du 12 octobre 2010

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

HENRI ATLAN

L’avenir de laprédiction

Sommaire

Avant-propos p. 5

Jean-Claude Seys

L’avenir de la prédiction p. 7

Henri Atlan

3

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

5

Avant-proposConnaître l’avenir a toujours été une obsession pourl’homme, même aux temps où l’environnement évoluaitpeu dans le temps de vies brèves.Leprogrès scientifique,qui est à l’origine d’une accélérationdu changement dans la plupart des dimensions de la vie,a permis à la prévision de se distinguer des prédictionsintuitives ou magiques antérieures et de parvenir, danscertaines conditions, à un degré élevé de fiabilité.Cette prévision scientifique repose sur la possibilité dereprésenter le phénomène dont on veut prévoir l’état futurpar un modèle, validé par l’expérience ou l’observation.Malheureusement, l’élaboration d’unmodèle d’un systèmecomportant beaucoup d’éléments devient rapidementcompliquée. La complication peut être surmontée parl’utilisation deméthodesmathématiques sophistiquées etde moyens informatiques puissants : mais l’existence delimites dans la compréhension des phénomènes tenanttant aux incertitudes sur l’identification des principes actifsque de la mesure de leurs influences respectives sape lafiabilité des modèles de systèmes complexes.C’est particulièrement vrai des systèmes vivants et sociauxque la science appréhende à travers des manifestationsparticulières d’ensemblesplus vastes :économiepar rapportà l’ensemble des phénomènes humains par exemple.La modélisation présente également d’autres faiblesses :la méthode expérimentale classique consiste à étudier unsystème en faisant varier un par un les paramètres qui ledéterminent. Mais la relation de cause à effet n’est pastoujours univoque. Ainsi, nous explique Henri Atlan,contrairement aux espoirs soulevés par le décodage dugénome, on s’aperçoit aujourd’hui que l’expression d’ungène est influencée par d’autres facteurs, qu’elle peutprendredes formesdifférentes et qued’autres gènespeuventla déterminer.

6

Dans certaines disciplines, des expériences multiplespermettent de valider progressivement les modèles ; dansd’autres cas, seules sont disponibles des observations duréel, non reproductibles à volonté, les modèles sont alorssous-déterminés.Ainsi, l’observation d’une corrélation entre la températureet la pression d’un gaz, à partir de trois mesures, peut-elleêtre représentée par une multitude de courbes, dontl’extrapolation aboutira à des prévisions totalementdivergentes, voire opposées.Ce n’est que lorsque les observations sont en nombre élevépar rapport à celui des facteurs -et des relations entre eux-interagissant dans le système que lamodélisation acquiertsa fiabilité.En conséquence,plus un système est complexeet singulier, plus il existe de modèles possibles pour lereprésenter etmoins il est possible d’établir quel est le bon.Cette incertitude a conduit à définir et introduire dansnotreConstitution, un principe de précaution selon lequelaucune action ne doit être engagée dont on ne peut êtreassuré qu’elle n’aura pas de conséquences néfastes pourl’homme ou son environnement.La preuve de l’inexistence future d’un fait,qui plus est dansun temps et un espacenondéfinis,estméthodologiquementinfaisable. L’inaction qu’impose ce principe, dès lors quel’action est possible, peut elle-même être dommageable.L’incertitude doit conduire à la prudence et à la prévention,mais à la prudence aristotélicienne, au cas par cas : lepostulat selon lequel l’inaction serait vertueuse et l’actiondommageable n’a pas de fondement.

Jean-Claude SeysPrésident de l’Institut Diderot

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

7

L’avenir de laprédiction

Le titre est provocateur et je n’en suis que partiellementresponsable. Comme on le dit parfois dans ce qui se veutune boutade, « la prédiction est toujours difficile, surtoutquand il s’agit de l’avenir ». Par conséquent, vouloirprédire ce qu’il en sera de la prédiction dans l’avenirparaît surréaliste. Il vaut mieux se contenter de dire cequ’il en est de la prédiction aujourd’hui, telle qu’onl’observe chez ceux et celles qui en sont spécialistes.Il y a plusieurs sortes de prédictions : à court terme ou àlong terme, spécifiques et, éventuellement, quantitativesou très générales et donnant lieu à des interprétationsdiverses ; prédictions de voyant(e)s et autres astrologuesou prédictions scientifiques. Je me bornerai ici auxprédictions scientifiques en commençant par faire uneremarque à propos des prédictions qui portent sur l’avenirde la science elle-même et des avancées technologiques,dont on prétend pouvoir les prévoir.Ce type de projectionsse rapproche de la science fiction, et ce d’autant plus qu’onse projette sur un avenir plus lointain. Je suis sceptiquesur la valeur de ces projections, sauf à très court terme,à cause de ce que nous avons pu constater au cours duXXème siècle. Personne, au début du siècle, n’aurait puprévoir les conditions dans lesquelles nous vivonsactuellement du fait de l’intrication de découvertesscientifiques majeures, d’innovations technologiquestotalement imprévues et des modifications des mœursqui les ont accompagnées.Je vais donc me borner dans ce texte à analyser deuxproblèmes posés par le développement des sciencesdepuis la deuxième moitié du XXème siècle. L’un de ces

problèmes est la sous-détermination des théories par les faitsou des modèles par les observations. L’autre est l’inventiondu principe de précaution comme prétendu moyen dedécision en situation d’incertitude scientifique, c’est-à-dire quand l’état des connaissances ne permet pas deprédire les conséquences de l’application de telle ou telleinnovation technologique.

La sous-détermination des modèles par les observationsest un problème que nous rencontrons de plus en plusdans ce qu’on appelle, à tort ou à raison, les sciences dela complexité. Je dois donc dire quelques mots pourcommencer sur cette nouvelle problématique des sciencesde la complexité qui a fait exploser le nombre de travauxde modélisations mathématiques et informatiques.L’impulsion en est surtout venue de l’évolution de labiologie et des sciences cognitives et les techniques demodélisation sont empruntées, quant à elles, plutôt à laphysique et à l’informatique. Etant biologiste moi-même,vous me pardonnerez de me référer à l’évolution de labiologie plus en détails qu’à celle d’autres disciplines.

I- A. Brève histoire de la complexitéLa notion de complexité n’est restée pendant longtempsqu’intuitive, un simple mot pour désigner nos difficultésà faire face à une situation donnée. C’est dans ce sens queJacques Monod l’utilisait quand il observait, dans sonlivre célèbre Le hasard et la nécessité 1, que l’organisationbiologique est fondamentalement la même que celledes cristaux, mais « plus complexe ». A peu près à lamême période, cependant, John von Neumann2 prédisait

8

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1. J. Monod, Le hasard et la nécessité, Paris, Le Seuil, 19702. J. von Neumann,Theory of Self-Reproducing Automata, ed. by A.W. Burks, Urbana (Il), University of Illinois Press, 1966.

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3. H.Atlan, Entre le cristal et la fumée, Paris, Seuil, 1979.

l’émergence au XXème siècle d’une science de lacomplexité. Il partait d’une déclaration intuitive à proposde la complexité fonctionnelle : « un objet est du plushaut degré de complexité s’il peut "faire des choses" trèsdifficiles et intriquées ». Il reconnaissait que le concepten était encore « vague, non scientifique et imparfait »,soulignant néanmoins « une propriété décisive de lacomplexité », à savoir qu’il existe une taille critique endeçà de laquelle le processus de synthèse dégénère, maisau-delà de laquelle ce même phénomène, dans desconditions adéquates, peut devenir « explosif ».Finalement, utilisant indistinctement les notions de« complication » et de « complexité », il concluait : « Riende tout cela ne pourra sortir du domaine des énoncésvagues tant que l’on n’aura pas défini correctement leconcept de « complication ». Et on ne peut le définircorrectement tant que l’on n’a pas examiné en détailsquelques exemples décisifs, c’est-à-dire quelques-unes desconstructions manifestant les propriétés fondamentaleset paradoxales de la complication. Il n’y a rien de nouveaudans tout cela. Il en est allé exactement de même avec lespropriétés de conservation et de non-conservation enphysique, avec les concepts d’énergie et d’entropie, et avecd’autres concepts essentiels. Les systèmes mécaniques etthermodynamiques les plus simples ont nécessité delongues discussions avant que les concepts correctsd’énergie et d’entropie aient pu en être extraits. »Il s’agit là d’un véritable programme de recherchesqui commence maintenant à se réaliser. Pour sortir dudomaine des « énoncés vagues », nous avons commencépar distinguer la complexité de la complication3, en ce quecelle-ci implique un grand nombre de données à traiter maisune compréhension adéquate de la façon de les ordonner,comme dans une machine compliquée, fabriquée suivantun plan bien connu avec une certaine finalité définie parson concepteur. Au contraire la complexité implique en

9

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

outre une difficulté de compréhension devant un systèmequi n’est qu’imparfaitement connu.Très schématiquement,on peut dire que la complexité est une propriété de systèmesou de machines dont nous ne connaissons ni les plans ni lafinalité de leur concepteur. C’est évidemment le cas demachines naturelles telles que les organismes dont il estloin d’être évident que la nature les ait fabriquées avecquelque finalité que ce soit. C’est aussi le cas dessystèmes sociaux. Même si les individus constituant cessystèmes sont des agents humains poursuivant chacundes fins, à l’aide de procédures particulières plus oumoins bien définies, l’ensemble de la société présente lespropriétés des systèmes complexes parce que sa structureet son fonctionnement ne sont qu’imparfaitement compriset qu’elle n’a pas été construite par un concepteur en vued’une fin bien définie.C’est pourquoi, dans des domaines aussi différents que labiologie, l’écologie, la sociologie, l’économie et mêmel’esthétique, le besoin d’une science de la complexité s’estfait sentir de plus en plus, conformément à la prévisiondeVon Neumann. Ce besoin était en outre encouragé parle développement de nouveaux outils mathématiques etinformatiques de plus en plus puissants -auquel VonNeumann a d’ailleurs lui-même contribué- qui laissaitespérer des progrès significatifs dans l’analyse dessystèmes complexes.Von Neumann nous avertissait par contre, à juste titre,qu’il ne suffirait pas d’utiliser le mot « complication »(ou « complexité ») pour rendre compte des phénomènes.Il faudrait plutôt reconnaître que la valeur explicative dece mot est très limitée et que, de fait, il désigne desphénomènes et des choses qui restent à expliquer.

I- B. L’exemple de la biologieL’histoire récente de la biologie au cours de cesquinze dernières années lui donne amplement raison.L’immunologiste cancérologue George Klein introduisait,il y a quelques années, un séminaire sur les voies detransmission de signaux cellulaires qui pouvaient se

10

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

trouver perturbées dans le cancer en avertissant que « lesbiologistes désormais doivent non seulement vivre avecla complexité mais l’aimer (not only live with complexitybut love complexity) ». Il citait en fait Tony Parson quisoulignait, à propos de la transduction du signal enbiologie cellulaire (de la membrane vers le cytoplasme etle noyau), que la complexité que nous y découvrons n’estrien comparée à celle qu’elle recèle en réalité 4.Durant les quarante à cinquante dernières années, l’idéalclassique qui vise à expliquer des observations trèscomplexes en les réduisant à des lois et à des mécanismessimples semblait avoir été atteint en biologie grâce à ladécouverte du code génétique et de son universalité.Il s’agissait, en effet, d’une découverte extraordinaire,celle d’une loi invariante sous-tendant tous les processusbiologiques.Par conséquent, un réductionnisme génétiquecouronné de succès semblait à portée de main et laréalisation du projet d’analyse des génomes était supposéerépondre à cette attente.Mais ce n’est pas ce qui s’est produit. En réalité, laréalisation de ce projet a mis en évidence que tout n’étaitpas inscrit dans les séquences d’ADN, même au niveaumoléculaire et cellulaire. L’ère « post-génomique » danslaquelle nous sommes entrés depuis est dénomméede différentes façons : « génomique fonctionnelle »,« protéomique » ou « cellulomique », « biocomplexité » ou« biologie systémique ». Ces expressions ont pour but desouligner la nécessité de comprendre les mécanismessous-jacents aux fonctions biologiques, dans le contextede la structure tridimensionnelle des protéines, irréductibleaux séquences nucléotidiques linéaires des ADN, et desinteractions régulatrices entre les protéines, les acidesnucléiques, les petites molécules et les ions dans uneseule cellule. Une cellule est en effet caractérisée par unréseau de centaines de réactions chimiques, activées ouréprimées différemment en fonction du type de cellule

11

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4. Communication personnelle.

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

12

et de l’état dans lequel cette cellule se trouve : normal oupathologique, au repos ou en division, secrétant ou nontel ou tel facteur hormonal ou autre. Tous les motifsstructuraux et fonctionnels ne sont pas déterminés demanière simple par le génome comme s’il s’agissait del’exécution d’un programme informatique. Les structuresd’ADN s’apparentent plutôt à des données statiques,stockées dans une mémoire, transmises de cellule encellule et d’une génération à l’autre, et traitées par le restede la machinerie cellulaire. C’est cette dernière quiexécute vraiment les fonctions. Même cette métaphoredoit être corrigée en soulignant que la structure duréseau biochimique fonctionnel d’une cellule dans unétat donné est modifiée lorsque le profil d’activationdes gènes est modifié. Le tableau qui en résulte est celui,que nous avons suggéré, d’un réseau évolutif dont leschangements de structure sont le résultat de son activité.Le système classique « un gène - une protéine - unefonction » est l’exception plutôt que la règle.Non seulementun gène code pour plusieurs protéines et une protéineest le produit de plusieurs séquences d’ADN, mais ilarrive aussi qu’une seule et même protéine assure, dansune cellule, plusieurs fonctions totalement différentes,apparemment sans lien entre elles, suivant sa localisationet son microenvironnement c’est-à-dire ses interactionsmultiples avec d’autres molécules.Pour analyser ces systèmes d’interactions complexes, laméthode expérimentale classique qui consiste à fairevarier un seul paramètre à la fois, tout le reste étant égalpar ailleurs, n’est pas suffisante.L’utilisation de techniquessophistiquées de biologie moléculaire, telles que cellesdonnant naissance aux animaux génétiquement modifiés,était censée permettre l’application de cette méthodeau niveau moléculaire et cellulaire, comme cela avait étéle cas aux temps pionniers de la physiologie au niveaudes organes et des organismes, en supprimant ou enaugmentant de façon ciblée l’activité de gènes repérésun par un. Bien que des résultats non négligeables aientété obtenus par ce procédé, il est néanmoins surprenant

de constater parfois que l’invalidation, chez une souris,d’un gène impliqué dans de nombreuses fonctionsvitales puisse avoir relativement peu de conséquencesphysiologiques.Ceci indique l’existence d’une redondancefonctionnelle plus importante que prévue.Les conséquences en sont, d’une part, une plasticitécellulaire que, par exemple, l’étude des cellules souchesembryonnaires fait apparaître de plus en plus. Maisd’autre part, comme nous allons le voir, cette redondanceaugmente une difficulté inhérente à la modélisation dessystèmes complexes, à savoir la sous-détermination desmodèles par les observations.

I- C. La modélisationLa modélisation est maintenant le mot-clé. Commentallons-nous concevoir une image intelligible d’une celluleou d’un ensemble de différentes populations cellulairesen assemblant leurs constituants (organelles, macro-molécules, réactions chimiques, transports) de telle manièreque le modèle reproduise ce qui est observé ? Et plusgénéralement, qu’est-ce qu’un modèle ? De quoi parle-t-on quand on se propose de faire le modèle d’une machineou d’un système naturel complexe, non seulement enbiologie, mais aussi en géologie, en astronomie, dans lessciences du climat ? La question se pose aussi pour lessciences de l’homme telles que la sociologie, l’économie,bien que la situation est ici plus intriquée puisque lesagents du système y sont en même temps sujets et objets,observés et observateurs, modélisés et modélisateurs.Construire un modèle de quelque chose, c’est d’abordfaire des prédictions sur le passé, sur ce qui est déjà connude cette chose, ce qui montre que la boutade de monintroduction comporte une part de sérieux. Il s’agit, à partird’une connaissance partielle des constituants d’un systèmeet de l’observation de ses propriétés globales (structure,performances, comportement, évolution temporelle), deconcevoir les plans d’une machine ayant les mêmespropriétés. C’est ce que l’on appelle parfois faire de« l’ingénierie inverse ».

13

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

14

Mais le rapport du modèle à la chose n’est pas le mêmepour tous. Pour le mathématicien, comme pour lepeintre ou le sculpteur, le modèle est la chose, vue d’uncertain point de vue, nature morte ou personne quiéventuellement prend la pose, tandis que la formemathématique et l’œuvre d’art s’en inspirent.Au contraire,pour le physicien, le biologiste et les autres praticiens dessciences d’observation, le modèle est une représentationabstraite, souvent mathématique ou informatique, de la choseou d’un phénomène.Et le modèle n’est pas le même pour l’ingénieur et pour lemodélisateur par ingénierie inverse. Pour l’ingénieur, lemodèle est le plan suivant lequel il va concevoir etfabriquer une machine en vue de réaliser certainesfonctions et performances. Pour le modélisateur d’unphénomène naturel, la machine est déjà là et l’on sedemande comment elle est faite ; le modèle est ici un planou une ébauche de plan qui permettrait de fabriquer unemachine capable à nos yeux des mêmes performances.L’ingénieur conçoit une machine artificielle qui n’existepas encore et la fabrique en vue d’un fonctionnementdéfini à l’avance. A l’inverse, le modélisateur d’unemachine naturelle l’observe en fonctionnement et tentede concevoir sa structure de façon à comprendre cefonctionnement de la façon la plus vraisemblablepossible compte tenu de ce qu’il en sait.Nous devons donc, d’une part, apprendre des ingénieurset informaticiens experts en ingénierie proprement dite("directe" si l’on peut dire), à concevoir des modèlesmathématiques et informatiques de machines destinéesà effectuer une fonction donnée en assemblant diversesparties de manière appropriée. En connaissant lespropriétés individuelles de ces parties et la façon dontelles sont interconnectées et s’influencent mutuellement,on peut calculer le comportement de l’ensemble. Bienentendu, cet ensemble peut lui-même, à son tour, êtreutilisé comme l’une des parties d’un niveau plus intégréd’organisation. C’est ainsi que des machines complexessont construites… incluant les ordinateurs nécessaires au

développement de ces modèles.Mais il faut, d’autre part, garder à l’esprit que ce typed’expertise de modélisation peut se révéler frustrants’il est appliqué tel quel, dans une ingénierie inverse, àla tâche de comprendre comment sont construites etfonctionnent des machines naturelles, non fabriquées parl’homme, telles que des cellules, des organismes et, dansune certaine mesure, des sociétés. La nature n’a pasconstruit ces machines à partir d’un plan conçu pourl’occasion par un ingénieur. C’est ici que les physiciens,les ingénieurs et les informaticiens tentés de releverce défi doivent puiser dans ce que les biologistes ontaccumulé d’observations partielles et souvent contradic-toires. La structure biologique n’est pas nécessairementcelle qu’un ingénieur intelligent aurait choisie pouraccomplir la même fonction. La rationalité de la naturen’est pas toujours celle d’un architecte, même avec l’aidede la sélection naturelle, n’en déplaise aux partisans del’épistémologie évolutive. La métaphore du bricolage,proposée par François Jacob5, est ici plus adaptée quela recherche raisonnée et rationnelle des moyens lesplus élégants et économiques d’atteindre un but.Souvenons-nous que cette métaphore a été empruntée àl’anthropologue Claude Lévi-Strauss qui l’utilisait pourdécrire le genre d’outils développés par des populationsqui ne connaissaient rien de la science moderne et dela technologie 6. Cela signifie que différents types derationalité peuvent être à l’œuvre dans la nature, ycompris dans la nature humaine. Il en découle que nouspouvons rencontrer des difficultés inattendues et, peut-être, des limitations intrinsèques dans l’habituelle règledu jeu de la modélisation quand nous l’appliquons à lacompréhension d’organisations naturelles complexes,même au niveau d’une seule cellule.

15

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5. F. Jacob, Le jeu des possibles, Paris, Fayard, 1981.6. C. Lévi-Strauss, La pensée sauvage, Paris, Plon, 1962, réed.collection Pocket, 1990, pp. 30 et sq.

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

16

C’est là que nous rencontrons cette sous-détermination desmodèles par les observations dont je veux vous parler, quiest peut-être une limitation à nos possibilités d’analysesde systèmes naturels complexes.

I- D. La sous-détermination des modèles par lesobservations

Différentes techniques ont été proposées pour mesurerla complexité des données, des observations ou desprogrammes ;mais, de façon plus profonde, la complexitéd’un phénomène naturel se traduit par une difficultéintellectuelle à en former une théorie ou un modèleexplicatif satisfaisant. Et cette difficulté avait étéautrefois exprimée très justement par le syntagme« sous-détermination des théories par les faits » par lesphilosophes des sciences Pierre Duhem7 (comme unepropriété des théories physiques) puisWillard O. Quine 8

(à propos d’une théorie de la traduction).Mais ces auteursn’envisagèrent la sous-détermination des théories que dupoint de vue très général du rapport de la théorie à laréalité.Or une difficulté du même type, mais beaucoup pluspratique, est le propre des techniques d’ingénierieinverse où il s’agit de construire un modèle capabled’expliquer en les reproduisant les performances ou les effetsd’un système naturel tels que nous les observons.En effet, quand on s’intéresse à un système naturelconstitué d’un nombre important de variables observables,liées entre elles de telle sorte que différents étatsstructuraux et fonctionnels de l’ensemble peuvent êtreobservés, il existe en général de nombreux modèles possiblesd’interactions permettant de prédire les mêmes états observés.C’est cette difficulté, qui tient à ce que, dans certaines

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

7. P. Duhem, La Théorie physique. Son objet, sa structure, Paris, MarcelRivière, 1914, chap. 1-2.8.W. O. Quine,Word and Object, Cambridge (MA), MIT Press, 1960,chap. I.6 et II.16.

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

9. H. Atlan, Tout, non, peut-être. Éducation et vérité, Paris, Seuil, 1991,chap. 3 et 4.

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

17

circonstances, trop de « bons » modèles peuvent être construitspour un même ensemble de données observées, qui caractérisela sous-détermination des modèles par les observations.Le calcul par réseaux d’automates permet de décrireprécisément et de mesurer, ou du moins d’exprimer defaçon semi-quantitative, la sous-détermination d’unmodèle par les faits d’observation et d’analyser lescirconstances dans lesquelles il faut en tenir compte 9.Le plus simple est de vous présenter un cas concret oùje me suis heurté à ce problème en travaillant à lamodélisation d’une partie du système immunitaire. Ils’agissait de modéliser des réactions immunitairesobservées in vivo, à l’aide de réseaux d’automates, ditsde « neurones » parce qu’ils reproduisent formellementcertaines propriétés logiques du fonctionnement électri-que des vrais neurones. Chaque modèle est ici représentépar une structure de connexions donnée d’un réseaudont les unités sont des automates qui représententles différents facteurs ou processus en cause. Or, pourun même nombre d’unités, de nombreuses structures deconnexions, avec des dynamiques très différentes, peuventgénérer les mêmes états stables observables, et le nombre detelles structures augmente très vite avec le nombred’unités. Pour un nombre N d’unités interconnectées, lenombre d’états observables sur l’ensemble du systèmeaugmente comme une puissance N du nombre d’étatsobservables sur chaque unité tandis que le nombre destructures de modèles possibles augmente comme unepuissance N² du nombre de valeurs possibles que peutprendre chaque connexion.Si N est le nombre d’unités, le nombre de connexionspossibles est N2, et le nombre de structures possiblesest 2N2 s’il n’existe pour chaque connexion que deuxpossibilités : exister ou ne pas exister. Ce nombre devient3N2 si chaque connexion peut être soit excitatrice, soit

inhibitrice, soit inexistante ; et plus généralement pN2

si chaque connexion peut être pondérée et son poidspeut avoir p valeurs. Quoi qu’il en soit, ce nombre esttoujours une puissance N², alors que le nombre d’étatsstables possibles d’un réseau de N automates ne peutpas être plus grand que le nombre d’états, soit 2N s’ils’agit d’automates binaires et qN si chaque automate peutoccuper q états. Ainsi, le nombre de structures deréseaux est généralement beaucoup plus grand que celuides états observables, pour un nombre donné d’unitésinterconnectées.Ce phénomène est déjà important pour des petitsréseaux, de l’ordre de moins d’une dizaine d’éléments, etil ne fait évidemment que s’accentuer quand le nombred’éléments augmente. Dans l’exemple que j’étudiais, ils’agissait d’un réseau de seulement cinq populations delymphocytes (cellules du système immunitaire) quiavaient été identifiées comme participant au déclen-chement, à la prévention et au traitement d’une maladieauto-immune expérimentale chez l’animal. Le modèledevait permettre d’identifier les interactions, c’est-à-direles connexions entre ces populations de cellules,représentées chacune par une unité d’un réseau.Mais onvoit que, déjà pour un réseau de 5 unités binaires, lenombre d’états est 25 soit 32, tandis que le nombre destructures de connexions possibles est au moins 225 soitenviron 10 millions.Est-ce à dire que ce phénomène existe toujours etqu’aucun modèle n’y échappe, ce qui impliquerait à lalimite l’absence totale de fiabilité des connaissancesscientifiques acquises de cette façon ? Certainement pas.Il est facile de concevoir, d’après le calcul précédent, dansquels cas il peut ne pas exister de sous-détermination dumodèle. Il faut que le nombre de données d’observationssoit suffisamment grand par rapport au nombre de variableset de structures de connexions possibles.Autrement dit, il fautque q soit beaucoup plus grand que p (plus précisément,q > pN), de telle sorte que le nombre d’états possibles soitplus grand que le nombre de structures possibles du

18

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

réseau ; ou encore que l’on puisse observer nonseulement les états stables mais aussi les dynamiqueselles-mêmes avec leurs états transitoires sur lestrajectoires qui mènent aux attracteurs10. Ceci impliqueune précision très grande dans l’observation, en sorteque le nombre de faits discriminables puisse être trèsgrand. Ceci est idéalement réalisé quand on a affaire àdes variables continues, dont on peut observer enpratique les variations de façon presque continue. Dansces conditions, évidemment, la sous-détermination desmodèles par les observations peut être réduite et mêmedisparaître.Or ces conditions sont celles de la méthode scientifiqueclassique, qui décompose les phénomènes étudiés enéléments relativement simples et peu nombreux surlesquels beaucoup d’observations et de mesures peuventêtre effectuées. C’est pourquoi la sous-déterminationdes modèles n’est habituellement pas prise en comptedans la confiance que l’on peut avoir dans la connaissancescientifique. Ces conditions sont réunies dans l’expéri-mentation sur des systèmes artificiels, montés enlaboratoire de façon simplifiée, tels que les variablespertinentes puissent être observées séparément avec laplus grande précision possible et que l’on puisse avoirun accès direct à la nature des interactions entrecomposants, que représentent les connexions.Mais c’est rarement le cas quand il s’agit de systèmesnaturels, comportant plusieurs processus couplés, etd’autant moins que le nombre de ces processus est élevé,car les données empiriques nécessaires en grand nombre,sur les états observables et sur les interactions, sont engénéral inaccessibles. Il en résulte que, dans cessituations, de nombreux modèles différents peuventexpliquer les états observés sans que l’on ait le moyen

19

...................................................................................................................................................................................................//////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

10. Par « attracteur » on entend, dans un système dynamique, un étatvers lequel ce système évolue de manière irréversible en l’absence deperturbations.

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

20

de décider en faveur de l’un d’entre eux, à moinsd’augmenter le nombre d’observations disponibles si lesconditions expérimentales le permettent.On voit que cette propriété n’est pas spécifique, commeon l’a longtemps cru, aux phénomènes humains, psycho-logiques, linguistiques ou autres, et ne résulte donc pasd’un rapport de la théorisation aux faits découlantd’aspects mystérieux de la relation corps/esprit.Beaucoup plus simplement, elle provient de l’augmentationrapide du nombre de modèles théoriques possibles, différentsmais équivalents quant à leur pouvoir prédictif de faitsd’observation, dès que ces faits sont déterminés par les effetscouplés de plusieurs facteurs ou processus. Le nombre demodèles possibles augmente en général beaucoup plusvite avec le nombre de variables que le nombre d’étatsobservables. C’est dans les conditions d’observation desystèmes artificiels ou artificiellement isolés et bien contrôlés,où cette sous-détermination peut être surmontée, ques’est constituée la méthode scientifique empirico-logiqueclassique. Mais ces conditions sont très rares dansl’observation des systèmes naturels complexes impar-faitement contrôlés. Comme cette sous-déterminationprovient de la méconnaissance des données empiriquesqui seraient nécessaires pour la lever, elle exprimeparfaitement la complexité de systèmes naturels dont nousn’avons qu’une connaissance partielle.Un exemple spectaculaire de sous-détermination desmodèles est fourni par un travail sur des réseaux de vraisneurones de rats cultivés en laboratoire, doués decapacités auto-organisatrices parce qu’ils établissententre eux des connexions, et capables de mémoire etd’apprentissage11. Un réseau de ce type a été programmépour apprendre à diriger les mouvements d’un robot afinde lui permettre d’éviter des obstacles. Sa structure et

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

11. S. Marom & G. Shahaf,Development, learning and memory in largerandom networks of cortical neurons : lessons beyond anatomy, QuarterlyReviews of Biophysics, 2002, 35 (01), p. 63-87.

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

21

l’algorithme d’apprentissage de son fonctionnementsont évidemment connus de ceux qui l’ont construit,comme dans le cas de machines artificiellement conçueset réalisées par un ingénieur. Mais pour un observateurde leur comportement global non informé par leurconcepteur, la compréhension de ces mécanismes rejointla situation générale de modélisation par ingénierieinverse, où le plan de la machine et son modèle defonctionnement doivent être induits à partir desconnaissances (limitées) disponibles sur sa structure etde l’observation de ses performances. Les concepteurs dece robot ont pu montrer qu’un modèle fondé sur unalgorithme complètement différent de celui qu’ils avaientutilisé en réalité était tout aussi efficace pour expliquerson comportement12. On a là un cas d’école de sous-détermination où un "bon" modèle est pourtant fauxpar rapport à la réalité du système qui se trouve iciconnue et décrite par ceux qui l’ont construit.La sous-détermination des théories par les faits apparaîtcomme l’une des expressions les plus spectaculaires dela manière dont la complexité naturelle limite notrepouvoir de théorisation. Et ceci est d’autant plus frappantque cette limitation ne tient pas du tout, comme onpourrait s’y attendre, à la difficulté de construire unmodèle prédictif des états observés sur un système dontil s’agit de comprendre la structure et le fonctionnement.Bien au contraire, plus on a affaire à un système complexeet singulier, plus il existe un nombre trop important demodèles différents, mais équivalents et tout aussiconvenables, sans que les observations disponibles soienten nombre suffisant pour permettre, idéalement, de lesréfuter tous sauf un.Remarquons toutefois que cette complexité, qui se

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

12. S. Marom, R. Meir, E. Braun, A. Gal, E. Kermany & D. Eytan,On the precarious path of reverse neuro-engineering, Frontiersin Computational Neuroscience, 2009, 3:5, p. 1-4.(doi: 10.3389/neuro.10.005.2009).

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

22

traduit par une faiblesse des modèles, peut être dansles faits, pour les systèmes réels qu’il s’agit de modéliser,une propriété de robustesse liée à une grande stabilitéstructurale : des variations relativement grandes sur lastructure des connexions peuvent ne pas changer leursétats stables. Il s’agirait donc d’une redondance fonctionnelleintrinsèque à la structure de systèmes naturels, et passeulement d’une propriété de leurs modèles ; un avantageréel pour un système biologique et non pas une simplelimitation de nos capacités de modélisation.On connaît plusieurs exemples de ce phénomène. L’und’eux est réalisé par les expériences de suppression (ditesknock out) de gènes bien identifiés qui n’entraînent quepeu de perturbations fonctionnelles alors que l’on connaîtleur implication dans des processus biologiquesfondamentaux.Un tel phénomène témoigne de l’existenced’une redondance qui permet à un réseau de gènes eninteractions de suppléer l’absence de l’un d’entre eux parune réorganisation différente du réseau qui permetted’assurer à peu près les mêmes fonctions si bien que lasuppression de l’un d’entre eux se trouve compensée parune autre structure de connexions.L’immense complexité des voies de signalisationintracellulaires par des cascades et des boucles deréactions biochimiques fournit un autre exemple desmêmes propriétés : des interruptions ciblées de telle outelle voie par des inhibiteurs spécifiques de réactionspourtant déterminantes sont souvent compensées par desvoies parallèles. Il s’agit là probablement d’un casparticulier de réseaux d’interactions de protéines entreelles. Des cartes d’une extrême complexité commencentà en être établies, grâce au développement considérablesurvenu ces dix dernières années de techniques d’analysesde plus en plus fines des structures des protéines et deleurs modifications, constituant ce champ d’étudesdénommé « protéomique » que nous avons déjà évoqué.Enfin, étant donnée la structure de notre systèmenerveux central, où N se chiffre par milliards, on peutspéculer sur l’effet de cette convergence vers les mêmes

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

23

états, de réseaux neuronaux pourtant très différentsdans le détail de leurs connexions. Plusieurs cerveauxforcément différents, du fait de leur histoire, dans le détailde leurs structures synaptiques (malgré l’identité de leurorganisation globale), peuvent converger vers des étatsstables similaires, sinon identiques. C’est cela qui nouspermettrait de faire l’expérience d’une intersubjectivitépar laquelle nous croyons arriver à nous comprendre, aumoins approximativement, et à nous accorder sur nosreprésentations.Mais, que cette sous-détermination soit le fait d’unefaiblesse des capacités d’observation ou d’une propriétéintrinsèque des systèmes considérés, comme le rapportqui la mesure augmente exponentiellement avec N, elleconstitue vraisemblablement une limitation irréductible auxcapacités de modélisation explicative, ou réaliste, « de basen haut » pour de tels systèmes.Une autre difficulté découlerait de la réalisation demodèles aussi complexes que les systèmes réels qu’ils sontcensés représenter.Alors, la technique de modélisation nefournirait plus aucune aide à la compréhension du réel.Enfin, nous devons nous arrêter sur une dernièredifficulté rencontrée dans l’analyse de systèmes quiprésentent une très grande variabilité individuelle. Detels systèmes peuvent associer aux problèmes liés à leursous-détermination ceux inhérents au caractère unique,donc non reproductible, des observations sur leurs états.La biologie, humaine en particulier, fournit des exemplesde telles situations. Mais elle n’est pas la seule : l’analysecritique des modèles d’évolution des systèmes écologiquesainsi que des modèles de changements climatiques, doitcertainement prendre en compte ces deux limitations auxcapacités prédictives des modèles de systèmes complexesnaturels : sous-détermination et non reproductibilité.

Que peut-on dire maintenant du pouvoir prédictif de cesmodèles sous-déterminés par les observations ? Je vaismaintenant parler non de la prédiction des observationsdéjà disponibles et qui sont censées valider le modèle,mais de la prédiction d’observations futures, non encoredisponibles.On conçoit bien que des modèles différents reposant surdes hypothèses et des mécanismes différents pourrontconduire à des prédictions différentes concernant desobservations futures, et d’autant plus si ces observationsse multiplient. C’est d’ailleurs tout l’intérêt de cesmodèles qui permettent de suggérer de nouvellesexpériences susceptibles de produire de nouvellesdonnées qui permettront de falsifier et d’éliminer uncertain nombre de modèles. C’est exactement ce qui sepasse en biologie quand on peut expérimenter.Mais quand ce n’est pas le cas, lorsqu’on a affaire à unsystème naturel complexe sur lequel on ne peut pasexpérimenter, son évolution temporelle et la prédiction del’avenir à partir du modèle ressemblent à l’extrapolationd’une courbe tracée à partir d’un petit nombre de points.Plusieurs courbes différentes peuvent passer par cespoints, mais leurs extrapolations éventuelles pourrontdonner des prédictions différentes.Autrement dit, nous restons en situation d’incertitude.Et c’est là que l’on rencontre le fameux principe deprécaution.Bien qu’inscrit dans la Constitution et ayant acquis dece fait un statut juridique, ce principe est interprétéde différentes façons suivant les usages multiples quien sont faits. Faisant souvent l’objet d’invocationsincantatoires, il est utilisé pour justifier telle ou tellemesure visant à se protéger contre un danger potentiel.Une première confusion consiste à considérer cesmesures comme s’il s’agissait de prévention. Une autreconfusion concerne les possibilités d’évaluations relativesdu danger et du coût des mesures destinées à se protéger.En fait, ces confusions, se ramènent à une faute initiale :vouloir instituer la précaution en principe.

24

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

II- A. La confusion de la précaution avec la préventionNotons tout d’abord que la prévention, elle, ne fait pasl’objet d’un principe. Il s’agit, plus empiriquement, demesures ou éventuellement de politiques de prévention.Etceci pour une raison assez simple : la prévention concernedes dangers réels de dommages ou de catastrophes dontl’existence est certaine et le risque peut être évalué, enamplitude et en fréquence. Les mesures de préventionvisent à empêcher leur survenue ou, au minimum, à enatténuer l’amplitude et en diminuer la fréquence.Interdire l’alcool au volant, organiser une vaccinationobligatoire à l’aide de vaccins éprouvés contre desmaladies infectieuses graves et endémiques, lancer descampagnes sur l’opinion publique pour diminuer letabagisme et l’alcoolisme, empêcher la contamination del’eau de rivière et de source par des déchets toxiquesconnus et repérés : ce sont là autant d’exemples demesures de prévention. Ces mesures sont efficaces etadaptées à des dangers connus dont on sait avec certitudequ’ils seraient beaucoup plus grands en l’absence deprévention : rôle des intoxications dans la diminution dela vigilance nécessaire à la conduite automobile, vaccinséprouvés, fréquence et amplitude des pathologies del’alcoolisme et du tabagisme, contamination d’eau potableet destruction de populations de poissons, etc.Il s’agit par contre de tout autre chose avec les mesuresde précaution et en particulier celles qui sont présentéescomme des applications du fameux principe. Nous avonsalors affaire à des dangers potentiels, dont nous nedisposons pas de certitude sur leur réalité et encoremoins d’une estimation plus ou moins chiffrée enamplitude et en probabilité. Dans tous les cas, le recoursà la science est insuffisant. Il s’agit de situations à proposdesquelles il existe une incertitude scientifique à la fois surla réalité du danger et sur sa gravité. Ceci ouvre la porte àtoutes les incertitudes, comme le montre un exempleextrême et caricatural, parmi bien d’autres, d’invocationdu principe de précaution en médecine.On a découvert que le traitement d’enfants par l’hormone

25

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

26

de croissance préparée à partir d’hypophyses prélevéessur des cadavres humains avait provoqué l’apparitionde la maladie de Creutzfeldt Jacob. L’origine de cettemaladie était inconnue jusqu’à la découverte des prions,nouvelle classe d’agents infectieux purement protéiquesde nature inconnue jusque là. La conclusion évidenteétait que les cerveaux et des extraits hypophysairesprélevés sur certains cadavres étaient infectés par le prionsans que personne n’ait pu le suspecter. Résultat : unecirculaire du Ministère de la Santé a alors interditl’utilisation de tissus ou d’organes humains dans unbut thérapeutique à moins de prouver qu’ils étaientindemnes de tout agent infectieux connu ou inconnu !Les greffes de cornée furent ainsi interrompues pendantplusieurs mois au grand dam des patients et desophtalmologues, jusqu’à ce que cette réglementationsoit reconnue absurde et supprimée.La nécessaire prise au sérieux de l’obligation de décideren situation d’incertitude aurait dû conduire à uneattitude opposée à cette quête d’un principe d’actionsupposé capable de contourner l’incertitude et de dicterune conduite prétendument juste en toutes circons-tances. Malgré ses formulations successives et leursinterprétations diverses, le principe de précaution jouece rôle trompeur et, en tant que tel, il souffre du défautlogique irrémédiable de se détruire lui-même. Rien ne diten effet que les mesures préconisées en application dece principe pour éviter un danger dont on ne peutévaluer ni l’amplitude ni la probabilité, n’auront pascomme effet des dangers tout aussi incertains mais peut-être plus grands et plus probables. En application duprincipe de précaution, il faudrait donc s’abstenir deprendre ces mesures, et donc s’abstenir d’appliquer leprincipe de précaution.Plus récemment, la campagne de vaccination contre lagrippe H1N1 est venue apporter une illustration de plus,si besoin était, de ce retournement sur lui-même de cefameux principe. Devant l’incertitude sur la gravité decette nouvelle grippe et sur son extension épidémique

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

27

possible, une campagne de vaccinations massives futdécidée par l’OMS, impliquant une fabrication accéléréede doses de vaccins en très grand nombre, évidemmentjustifiée au nom du principe de précaution. Comme onsait que les nouveaux vaccins doivent satisfaire un certainnombre de critères de sécurité dont les tests demandentnormalement un certain temps, un doute s’est introduitdans une partie de l’opinion, y compris médicale, surl’innocuité de ces vaccins. Autrement dit, on a suspectéun danger potentiel dans la vaccination elle-même. Bienque ce danger fût évidemment incertain, le principe deprécaution devait conduire à refuser la vaccination. C’estce qui arriva dans un certain nombre de cas, pas toujoursd’ailleurs en application du principe mais souvent parscepticisme quant à la gravité annoncée de l’épidémie.Depuis les premières formulations du principe deprécaution à propos de dangers potentiels pour l’en-vironnement, l’incertitude scientifique a toujours joué unrôle déterminant dans son énoncé et ses applications. Ilfaut reconnaître que les formulations plus récentes etleurs interprétations, notamment par les juristes, ontatténué la nature et le degré de cette incertitude ainsi quele caractère automatique des mesures préconisées pouréviter le danger. Le but était évidemment de ne pastomber dans le piège de l’absurde qu’avaient révélé lesexcès des premières applications du principe.C’est ainsi que, dans sa formulation inscrite dans laConstitution, il est fait mention de mesures proportionnéesau danger à éviter. Cela implique que l’on puisseapprécier la gravité et l’amplitude du danger afin que cequi est mis en œuvre pour l’éviter ne lui soit pasdisproportionné soit par son coût, soit par d’autresdangers qui pourraient en résulter. Autrement dit, onn’est plus là en situation d’incertitude totale puisqu’onadmet implicitement qu’on dispose d’une connaissance,au moins en termes de probabilité, sur le danger à éviter.Cela veut dire que, bien que l’on continue à parler de« principe de précaution », il s’agit en fait d’un principede prévention, assez ancien, qui consiste à apprécier

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

28

le rapport coût/bénéfices pour orienter des prises dedécision concernant des risques suffisamment connuspour pouvoir être évalués.

II- B. Un principe de couvertureUne autre façon de contourner l’impasse du principeperçu comme une garantie de décision juste en situationd’incertitude consiste à y voir non pas un principed’action mais un principe d’évaluation. Suivant cetteinterprétation, appliquer le principe consiste à tout mettreen œuvre, dans une situation d’incertitude scientifique sur undanger potentiel, pour évaluer la nature, l’amplitude et laprobabilité du danger afin de réduire l’incertitude autant quepossible.Autrement dit, il s’agit là encore de se rapprocherle plus possible d’un problème de prévention classiquefondé sur une estimation du rapport coûts/bénéfices.Mais ces interprétations sont en fait, si l’on peut dire,des précautions de la part de spécialistes qui analysentbon gré mal gré les conditions d’application de ce« principe » désormais inscrit dans le droit. Elles passenttrès peu dans le grand public et les médias, et donc chez lespolitiques. Il est plus facile de prendre des décisionssupposées justes parce que découlant d’un principeinattaquable, résolvant ainsi, croit-on le problème del’incertitude. Le principe est donc appliqué pratiquementde façon beaucoup plus simple et assez brutale.Devant undanger réel ou potentiel, des mesures de précaution sontprises par ceux qui sont en charge et le principeest invoqué pour les justifier et prévenir des critiquestoujours possibles. Il s’agit là d’une attitude dont onpeut faire remonter l’origine au scandale du sangcontaminé, qui a sans aucun doute marqué un tournantdans les rapport entre experts scientifiques et décideurspolitiques. La mise en cause, avec poursuites judiciaires,de ministres et de conseillers a produit un sentimentd’insécurité chez ceux qui doivent décider et sont, commeon dit, « aux responsabilités ».D’où un besoin de couvertureen s’en remettant systématiquement à l’avis des experts.Et quand celui-ci est incertain, l’invocation du principe de

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

29

précaution est là pour servir de couverture aux décisionset les justifier devant des critiques éventuelles.Les conséquences de cet état de choses sont loin d’êtrenégligeables. C’est l’institution du règne de la peurirrationnelle dans ce que j’avais appelé « les trois pouvoirsde la parole »13 : le pouvoir scientifique, le pouvoir média-tique et le pouvoir politique d’où procède la décision.L’exercice de ces trois pouvoirs est indispensable endémocratie mais ils doivent être séparés pour être enmesure de se critiquer l’un l’autre, au lieu de s’appuyerl’un sur l’autre dans une spirale d’amplifications. Et ceciest d’autant plus nécessaire lorsqu’il s’agit de questions surlesquelles l’expertise scientifique est incertaine et parfoisdivisée. L’amplification médiatique des avis des expertssimplifiés dans leur utilisation politique aboutit à uneespèce de consensus de l’opinion qui justifie en retour desdécisions ainsi couvertes par le principe de précaution.Notons toutefois, contrairement à ce à quoi on pouvaits’attendre, que pour des raisons tenant à des chocs decroyances et d’idéologies technophiles et technophobes,le principe de précaution n’est en général pas invoquédans les discussions de bioéthique sur les procréationsmédicalement assistées.Pourtant, on a ici aussi affaire à desdangers potentiels, plus liés d’ailleurs à l’expérimentationsociale de nouvelles filiations qu’aux techniques biolo-giques proprement dites.Mais le désir d’enfant biologiqueà tout prix fait ici surmonter la peur ou même l’ignorer.Par contre, deux exemples d’application du principe sontcaricaturaux : les OGM et les nanotechnologies. Lesnouvelles technologies définissent un domaine marquépar des incertitudes multiples sur leurs applicationspossibles et sur les bienfaits et les dangers auxquels ellespeuvent exposer. L’attitude raisonnable consisterait àanalyser chacune des applications concevables au cas parcas pour en évaluer autant que possible les dangerspotentiels et les bienfaits qu’on en peut attendre.

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

13. H.Atlan, Tout, non, peut-être. Education et vérité, Paris, Seuil, 1991.

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

30

Mais il faut reconnaître que l’expertise scientifiqueen situation d’incertitude est difficile. Ni l’opinion, niles politiques n’aiment rester dans l’incertitude et ilsinfluencent en cela l’exercice de l’expertise. Peu d’expertsont le courage d’annoncer qu’ils ne peuvent pasrépondre à la demande d’avis même en termes deprobabilité. La tentation sera donc le plus souvent dedonner quand même une réponse, soit pour rassurer, soitpour mettre en garde. Les affaires du sang contaminé ontconstitué sur ce point aussi un tournant. Avant lescandale, c’était la tendance à rassurer qui semblaitdominer la communauté scientifique et médicale. Aprèsle scandale, la tendance s’est inversée en même tempsque le principe de précaution s’imposait de plus en plus.Aujourd’hui, les experts préfèrent de loin être desprophètes de malheur. Comme l’avait bien compris leprophète Jérémie, on risque moins à annoncer unecatastrophe qu’une bonne chose car, en cas d’erreur, onpourra toujours arguer de ce que la catastrophe a étéévitée grâce à ceux qui l’avaient annoncée. Le principede précaution étant passé par là, émettre des doutes sur lacatastrophe annoncée est déjà dangereux pour les expertsdont on attend certitudes et recommandations fermes.On invoque parfois, à tort ou à raison, le philosophe HansJonas et son heuristique de la peur comme fondementphilosophique du principe de précaution14.Mais le résultatde son application débridée est tout simplement la peur,sans heuristique.Il serait souhaitable de revenir à la prudence aristo-télicienne, au cas par cas, sans la garantie illusoire d’unsoi-disant principe. Principe de couverture plutôt que deprécaution, il est temps de faire preuve de sagesse et deprudence justement dans ses applications.

Retrouvez l’intégralité du débat en vidéo sur www.institutdiderot.fr

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

14.H. Jonas,Le principe de responsabilité, Paris, Editions du Cerf, 1990

...................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

31

Les publications de l’Institut Diderot

Dans la même collection

L’avenir de l’automobileLouis Schweitzer

Les nanotechnologies & l’avenir de l’hommeEtienne Klein

L’avenir de la croissanceBernard Stiegler

L’avenir de la régénération cérébraleAlain Prochiantz

L’avenir de l’EuropeFranck Debié

L’avenir de la cybersécuritéNicolas Arpagian

L’avenir de la population françaiseFrançois Héran

L’avenir de la cancérologie.Une illustration des crises à venir de l’hôpitalFrançois Goldwasser

L’avenir de l’aménagement des territoiresJérôme Monod

Les Notes de l’Institut Diderot

L’euthanasie, à travers le cas de Vincent HumbertEmmanuel Halais

Les Dîners de l’Institut Diderot

La Prospective, de demain à aujourd’huiNathalie Kosciusko-Morizet

..............................................................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

..............................................................................................................................................................................................................////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

L’avenir de la prédiction

Connaître l’avenir a toujours été une obsession pour l’homme, même aux tempsoù l’environnement évoluait peu dans le temps de vies brèves.Le progrès scientifique, qui est à l’origine d’une accélération du changementdans la plupart des dimensions de la vie, a permis à la prévision de se distinguerdes prédictions intuitives ou magiques antérieures et de parvenir, dans certainesconditions, à un degré élevé de fiabilité. […]La méthode expérimentale classique consiste à étudier un système en faisantvarier un par un les paramètres qui le déterminent. Mais la relation de cause àeffet n’est pas toujours univoque. Ainsi, nous explique Henri Atlan, contrairementaux espoirs soulevés par le décodage du génome, on s’aperçoit aujourd’hui quel’expression d’un gène est influencée par d’autres facteurs, qu’elle peut prendredes formes différentes et que d'autres gènes peuvent la déterminer.Dans certaines disciplines, des expériences multiples permettent de validerprogressivement les modèles ; dans d’autres cas, seules sont disponibles desobservations du réel, non reproductibles à volonté, les modèles sont alors sous-déterminés.

Jean-Claude Seys, Président de l’Institut Diderot

Professeur émérite de biophysique à l’universitéParis VI, directeur d’études en philosophie de labiologie à l’EHESS (Paris) et directeur du Centrede recherche en biologie humaine à l’hôpitaluniversitaire Hadassah (Jérusalem).

FONDS DE DOTATION POUR LE DEVELOPPEMENT DE L'ECONOMIE SOCIALE REGI PAR LA LOI N°2008-776 DU 4 AOUT 2008 – SIRET N° 513 746 651 00019

11, place des 5 martyrs du lycée Buffon 75014 Paris / T. +33 (0)1 53 10 65 60 / F. +33 (0)1 53 10 65 36contact@institutdiderot.fr / www.institutdiderot.fr

Henri Atlan

www.id

com

m.fr

-Im

prim

ésu

rpa

pier

issu

defo

rêts

géré

esdu

rabl

emen

t..............................................................................................................................................................................................................