Toute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite. Techniques de lIngnieur, trait lectronique E 3 084 - 1Thorie de linformationApplication la physiqueparJacquesCLAVIERIngnieur gnral de larmement (CR)Ancien lve de lcole polytechniqueIngnieur de lcole Nationale Suprieure de lAronautique et de lcole Suprieure dlectricitet article est le dernier consacr la thorie de linformation. Les deux pr-cdents en ont jet les bases et examin les dveloppements, tout en limi-tantleconceptsonacceptationquantitativeetprobabiliste,etledomainecelui des tlcommunications. Cet article traite le champ dapplication, certes la physique et ses lois, mais aussi la sociologie et lhistoire. Il esquisse sur-tout une approche qualitative de linformation en liant limportance quelle revt une notion mesurable de valeur.On examine successivement : les rapports de linformation la physique, plus prcisment la thermo-dynamique, puis lexprience au sens scientifique du terme ; ces mmes rapports lexpression des lois naturelles ; les liens de linformation avec la civilisation, grante du capital informati-que disposition de ses membres ; sa dynamique dans lhistoire, son importance et lide de valeur laquelleelle conduit.1. Linformation et la physique................................................................. E 3 084 - 21.1 Information et deuxime principe de la thermodynamique.................... 21.2 Lentropie...................................................................................................... 21.3 Lexprience ................................................................................................. 31.3.1 Information et entropie thermodynamique...................................... 31.3.2 Exprience type .................................................................................. 31.4 Rendement dune exprience. Problme de la mesure ........................... 41.4.1 Exprience........................................................................................... 41.4.2 Seuils de dcision............................................................................... 52. Information contenue dans une loi physique .................................. 62.1 Constatations ............................................................................................... 62.2 Dnition...................................................................................................... 62.3 Gnralisation.............................................................................................. 63. Information et civilisation..................................................................... 73.1 Une formule dvolution............................................................................. 73.2 Discussion.................................................................................................... 74. Circulation de linformation ................................................................. 84.1 Vie de linformation..................................................................................... 84.2 Conclusion.................................................................................................... 95. Valeur de linformation .......................................................................... 95.1 Retour sur la dnition de linformation ................................................... 95.2 Premire solution ........................................................................................ 95.3 Perspective dune thorie gnrale............................................................ 106. Conclusion................................................................................................. 11Pour en savoir plus........................................................................................... Doc. E 3 085CTHORIE DE LINFORMATION_____________________________________________________________________________________________________________Toute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite.E 3 084 - 2 Techniques de lIngnieur, trait lectroniqueOn peut stonner que lon ne traite pas le sujet de linformation et la vie, plusprcisment de la biologie. Sil est certain que la structure chimico-spatiale de lamolculedADNcontientuneinformationcapitale,ncessaireaudveloppe-ment du vivant, il est douteux, aujourdhui, quelle soit sufsante ; bien dautresfacteurs porteurs dinformations interviennent environnement, ducation... pouraboutirltredanssaplnitudeetsadynamique.Cesconsidrations,complexes, nont pas leur place dans cet article.1. Linformation et la physique1.1 Information et deuxime principe de la thermodynamiqueLamajoritdestravauxsurlinformationateffectueparlessavants mathmaticiens et ingnieurs des tlcommunications pourlesquels la thorie prsentait un attrait et des enseignements prati-ques immdiats.Toutefois,lefaitquelesexpriencessontlvidencesourcesdinformationet,peut-tre,uniquessources,lasimilitudedesfor-mulesrelativeslentropiethermodynamiqueetlinformation,enn,lempruntmmedestlcomsauxsciencesphysiques,nepouvaient manquer de poser la question du rapport de linformationet de la physique.Beaucoupdetravauxyonttconsacrs,notammentparLonBrillouin. Ils portent, notamment, sur lexprience, son rendement,le problme de la mesure, le contenu informationnel des lois scien-tiques. Ils portent sur les liens dj voqus entre linformation etlentropie, ce qui a conduit Brillouin proposer rien moins quunemodication, disons une variante, du 2e principe.Onrappelleceprincipe :pourunsystmeisol,lentropieestcroissante ou constante :Ce fameux principe est ainsi modi : pour un systme isol quifournit de linformation (DI > 0) o en absorbe (DI < 0), on a :Iestmesurenunitsthermodynamiques.Cetterelationnesedmontre pas, que sur des exemples. Elle donne nombre dexplica-tions satisfaisantes, comme celle du dmon de Maxwell. Elle signi-e en particulier : quetouteexprience(DI> 0) dgrade lesystmeconcern ; quelafournituredinformation(DI < 0)unsystmeretardesadgradation.Lidedapplicationauxprocessusvitauxvientimmdiatement lesprit.1.2 LentropieI Lentropie, notion fondamentale en thermodynamique, a dabordt dnie comme le cot, en temprature, auquel schangent lesquantits de chaleur.Si un systme reoit la quantit de chaleur DQ leve la temp-rature T, son entropie saccrot de :Ldice,grandiose,delathermodynamiqueestconstruitsurdeux principes.Pour un systme isol :1. lnergie se conserve ;2. lentropieseconserve(systmerversible)oucrot(systmeirrversible).Ilestremarquablequelapplicationdecesdeuxseulsprincipessufse btir lessentiel de la thorie et expliquer des propritsaussi capitales que : limpossibilit du mouvement perptuel ; la ncessit de disposer de deux sources tempratures diff-rentes T1, T2 pour obtenir du travail dans les machines thermiques ; le rendement maximal de ces machines, gal .Lexempleci-aprs,classique,considreunsystmeisolcompos de deux sources de chaleur tempraturesT1 et T2 etdune machine capable de fournir du travail selon les conventions : travail fourni DW (si DW < 0 il sagit de travail absorb) ; chaleurs absorbes DQ1, DQ2 (si DQ1 ou DQ2 < 0 il sagit de cha-leur fournie).Onnotequelesconventionsdesignesontinverses,cequiestregrettable.Lapplication des deux principes donne :DW DQ1 DQ2 = 0conservation de lnergie ;Un calcul immdiat conduit :Lelecteurvriesanspeinelestroispropritsprcdemmentnonces (gure 1).DS 0 DS DI 0 DSDQT-------- =Figure 1 Systme isol rversible1T1T2------ DSDQ1T1-----------DQ2T2----------- 0entropie croissante ou constante. + =DWDQ1----------- 1T1T2------ rendement maximal dans le cas = = rversibleDS 0 = ( ).S1MS2fournit --Q1fournit +Wabsorbe +Q2Source S1T1--Q1Machine MW+Q2Source S2T2_____________________________________________________________________________________________________________ THORIE DE LINFORMATIONToute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite. Techniques de lIngnieur, trait lectronique E 3 084 - 3I Unpasdcisifatfranchienphysique(Gibbs,Boltzmann,Planck)lorsque,surlaconstatationquelachaleurntaitquunenergie cintique dagitation des particules, lentropie mesurait na-lement la probabilit dun tat du systme tudi :S = kPavec S entropie enJ/K, k constante de Boltzmann (1,38 1023 J/K)Pnombredecongurationsappelescomplexionsquiconcou-rent raliser ltat considr du systme.Or, par dnition, la probabilit de ltat considr est proportion-nelleaunombredesescomplexions :leprincipedeCarnotest simplement lexpression de la tendance statistique dessystmesvoluerverslesstructureslesplusprobables.Mais,attention, derrire cette vidence se cache un redoutable pige quifonctionne encore. On fait dire au 2e principe quil conduit lvolu-tiondessystmesisolsversundsordrecroissant.Lordreetdsordre sont des notions subjectives qui se rapportent lobserva-teur, lequel tient le plus souvent pour ordonn un tat particulier quilui convient et dsordonns tous les autres videmment beaucoupplusnombreuxdoncplusprobables.Ainsiondclarejustementordonne la suite des nombres entiers et dsordonnes toutes lesautres, ceci prs quune suite quelconque est aussi (peu) probableque la suite naturelle.1.3 Lexprience1.3.1 Information et entropie thermodynamiqueOn a vu que, si un phnomne quelconque mais comprhensiblea la probabilit a priori p de se produire, la constatation de ce ph-nomne correspond lacquisition dune quantit dinformation :I = log2 pOn dit encore que le phnomne tait porteur de linformation I.En changeant dunit, on peut crire :I = kpDans ces conditions, 1 sh vaut kL2 1023 ou 0,7 k uni-ts thermodynamiques.On est frapp par lanalogie des deux formules dnissant I et S.Silentropiemesureltatdorganisationoudedsorganisa-tion dun systme (rserve ayant t faite sur ces mots), linfor-mation caractrise le fait davoir acquis une certaine connaissancede cet tat.Pourprcisercela,ilfautbiencomprendrequelacquisitiondinformation sur ltat dun systme implique une exprience, cest--dire le couplage, pendant un temps, du systme observ ou objetO, du systme de mesure M, et dun tre intelligent E. On sait encoremalaujourdhuiocommenceetsarrteE.Onpeutsansdangerinclure lil, loreille de E, voire les nerfs optiques et auditifs dans M.1.3.2 Exprience typeQuoiquilensoit,lexpriencetypesedroulecommesuit,enquatre tapes :I 1re tape : prparationOetMsontdcoupls.Lamanipulationnapascommenc.E sait qua priori le nombre de complexions de O est P0. Il asso-cie naturellement O lentropie O0 = kP0. On saisit nouveau lecaractre subjectif de lentropie. Car enn, le systme U est, proba-blement, dans un certain tat, mais E lignore. En ce sens, lentropiemesure le manque dinformation que lon a sur ltat dun systme.On note Mo lentropie initiale de M.I 2e tape : excutionOn effectue lexprience : on couple O et M. Il y a interaction. Oncherche videmment que Mperturbe O le moins possible : cest lecas des expriences classiques o la lumire employe ninue pra-tiquement pas sur lobservation des objets familiers comme sur celledes autres. Ce nest plus le cas quand sont en jeu dimension, temps,nergies faibles do lentre en scne du principe dincertitude.I 3e tape : sparation et constatO et M sont spars. Grce M, E a appris quelque chose sur O. Ilconstatequelenombredecomplexionsquilfautluiattribuerestpass de P0 P1.Lentropie de O a diminu DO = k < 0.LinformationacquiseestDI = k= DO > 0,exactementgale, au signe prs, la variation dentropie de lobjet.En mme temps, lentropie de M a vari de DM comme a vari deDS, lentropie du systme isol O + M :DS = DO + DM = DM DI0La meilleure connaissance quon a de O, qui sest traduite par uneinformation sur lui et une diminution de son entropie, est obtenueau dtriment dune dgradation de M, on dit, quelquefois, du labo-ratoire.SiMaperturbO,ltudeestbeaucoupplusdlicate ;onnelaborde pas.I 4e tape : retour au point de dpartLa diminution dentropie de O nest que momentane. O reprendvite sa valeur O0. On dit que O oublie linformation.Dans ce cas gnral, lentropieS du systme aura cr au moinsde :DS = DMDIdo :DS DI 0Si, par contre, on se sert de linformation acquise pour agir sur Oet matrialiser en quelque sorte la restriction du champ de ses tats,lentropie de O peut avoir diminu durablement.Exemple : uneurnecontientN/2boulesrougesetN/2boulesblanches,initialementsparesdansdeuxcompartimentscommuni-quant par un trou. On agite violemment. Quelle est lentropie du sys-tme dans ltat o il y a Rboules rouges et B boules blanches dansun compartiment ?Ltat considr sobtient en choisissant R boules rouges parmi lesN/2 et B blanches parmi les N/2.Il peut tre ralis de faons diffrentes. Donc nest le nombre de complexions de ltat en cause dont la probabilit est (2N tant le nombre dtats possibles).Lentropie est, une constante prs :S = knElle est maximale quand nlest, donc Cestvidemmentlecasleplusprobableparcequeralisabledemultiples faons.Si, par contre, on numrote les boules et que lobservateur appellemaintenant tat le fait que le compartiment comporte R boules rougeset B blanches identies, cet tat, alors, ne sobtient que dune seulefaon. Il est aussi (peu) probableque ltat qui rassemble tou-teslesboulesdunseulctetquilauraittendancenommerordonn.nDS 0 ( )n CN 2 RCN 2 B =pn2N------ =nR BN4----. = =p12N------ = np12--- = nnP1P0------nP0P1------THORIE DE LINFORMATION_____________________________________________________________________________________________________________Toute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite.E 3 084 - 4 Techniques de lIngnieur, trait lectroniqueLes deux exemples ci-aprs illustrent ces propos.1.4 Rendement dune exprience. Problme de la mesure1.4.1 ExprienceDu point de vue de la thorie, on appelle exprience le couplagedunsystmephysiqueavecuninstrumentdemesure,couplageralis en vue dobtenir de linformation.Celle-ci,soitDI,estobtenueauprixdunedgradationDSdelentropie du systme form de lobjet et de linstrument et lon a :soit :avec rendement de lexprience.Exemple 1 : soit une exprience qui consiste dterminer si, uninstant donn, une molcule isole se trouve dans la partie suprieureou infrieure dune enceinte ferme.On distingue : lobjet = enceinte V + molcule m ; linstrument=jeudemiroirs,sourceetcellulephotolectriquedestine dtecter, par diffraction, la prsence de m ; lexprimentateur E.On rappelle que, dans un tel exemple, lentropie de m est klogv.E constate, en lisant ses cellules, que m est en haut. Momentan-ment, lentropie passe do variation O = k2 < 0 tandisque linformation I = k2 correspondant 1 sh est obtenue. On ade plus MI. Si lon en reste l, la molcule laquelle le volume Vcontinue dtre offert pourra, nouveau, se dplacer dans V et repren-dra son entropie initiale.Le systme total a vu son entropie crotre de S = M et lon a bienS I0.Pour obtenir une information I, il a fallu dgrader le systme enfait les instruments de mesure de S. Le rendement est 1.Si, par contre, lexprimentateur tient compte de ce quil a appris etintroduit par exemple une cloison dans V qui pige ml o elle est, ilfournit au systme la quantit dinformation I (< 0).Lentropie S diminue dun peu moins de O, car lintroduction de lacloisonimpliqueunlgerfrottementdoncunepetitedissipationdechaleur, les instruments enn ninterviennent pas et lon a encore :PourobtenirunediminutionSdelentropiedusystme(pourlessentiel de lobjet), il a fallu dpenser une quantit dinformation I.Compte tenu des signes, le rendementest < 1.Cetexemplemontrecomment,nalement,uneinformationestobtenueauxdpensdelentropiedunsystme(surtoutdelinstru-mentdemesure)etcommentuneinformationpermetdediminuercette mme entropie (surtout de lobjet).Exemple 2 : lexemple du dmon de Maxwell (gure 2) est de cesparadoxes clbres en physique, la fois par la notorit de leur auteuret les questions gnantes quil pose.Un gaz remplit les deux compartiments dune enceinte, spars parunecloisonperceduntrouetmuniedunclapet.Lenceinteesttemprature uniforme T, avec distribution gaussienne des vitesses. Undmon malin veille au clapet et laisse passer de A vers B les molculesrapides et de B vers A les lentes. Il ferme la porte aux passages inver-ses.Au bout dun certain temps, B senrichit de molcules chaudes, A demolcules froides. Lquilibre des tempratures est rompu. Le thermo-dynamiciendeservicebrancheparrexeunemachinethermiqueentre les deux sources, on obtient du travail.Le paradoxe peut tre gnralis en imaginant un grand nombre declapets dune grille sur le feu actionne par tous les dmons de lenfer,avec, comme rsultat, le gel de leau contenue dans la casserole sur lagrille.Onglissesurlespolmiquesetonremarqueque,pouragir,ledmon doit tre inform et voir les molcules, chose impossible sil esten quilibre thermique avec le corps noir enceinte .G Il doit se munir, par exemple, dune lampe de poche dont la piledlivrant lnergie E ne chauffe pratiquement pas. Le lament port T (T > T ) perd lentropie, le gaz gagne lentropie.Au total, il y a gain dentropie S du systme.k nV2---, nnDIDS------- DS DI 0 DSDI---------ET-----ET---1er bilan : conformment au 2e principe.G Pourintervenir,ledmondoitavoircaptaumoins1quantum,do accroissement de lentropie du dmon. 2e bilan : (> 1 puisque h> kT, le quantum doit tre distingu du bruit ther-mique).G Le dmon, dsormais averti, peut agir pour diminuer lentropie dugaz. Il y avait P0 complexions du gaz, il y en a maintenant P0 P0, dole 3e bilan.3e bilan :Par addition des bilans partiels :DS = DS1 + DS2 + DS3 = Au total, lentropie du systme gaz + dmon + lampe a augmentmais lanalyse des postes du bilan est instructive : la lampe a perdu de lentropie ; le dmon en a gagn, plus que nen a perdu la lampe, mais il a pu,en mme temps, obtenir de linformation ; laquelle lui a permis de diminuer lentropie du gaz.Pour obtenir de linformation, le sous-systme dmon + lampea d nalement accrotre son entropie, ou, comme on dit, dpen-ser de lentropie ngative ou nguentropie.Pour diminuer son entropie, le sous-systme gaz a d recevoirde linformation.Il y a eu double conversion : nguentropie information nguen-tropie.Figure 2 Dmon de MaxwellDS1ET---ET----- 0 > =DS2hnT------ lk = =DS3k n P0DP0 ( ) nP0 [ ] kDP0P0---------- =ET---ET----- + k lDP0P0---------- 0 >DS DI 0 = rDIDS-------- 1 =A B_____________________________________________________________________________________________________________ THORIE DE LINFORMATIONToute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite. Techniques de lIngnieur, trait lectronique E 3 084 - 5Il existe galement : une perturbation par le bruit ; une incertitude de lobservation.Sanstropentrerdansledtail,onadmetquetouteexpriencencessite de dpenser un peu dnergie E dont le niveau soit suf-santpourtredistingudubruitdefond,quilsoitthermiqueouquantique.lan,Esedissipeentoutoupartieenchaleurdolaugmentation de lentropie.On distingue ainsi deux grandes classes dexpriences : les expriencesmacroscopiques, celles o le bruit thermiquelemporte sur les quanta (classe 1) kT >> h temprature ordinaireon a > 30 m ; lesexpriencesmicroscopiques,cellesolebruitquantiqueest nettement suprieur kT (classe 2) h >> kT.Dans les deux cas, la probabilit dobserver un niveau naturel debruit scrit :p(bruit e) = exp( e/kT)avec e = nh dans le cas quantique.1.4.2 Seuils de dcisionVoicimaintenantcommentseposeleproblmetrsgnraldelexprimentation.Un phnomne (prsence dun signal, raction chimique, etc.) a laprobabilit a priori p de se produire.OnsexeunseuilnergtiqueS,telquesilnergieobservedanslercepteurdpasseS,ondcidequelephnomnealieu.Comment choisir E et S ? Quelles chances a-t-on de se tromper dansla dcision ?Le tableau 1 rsume les quatre ventualits.Pour simplier les calculs, on pose :exp( S/kT) = XOn observera dans le rcepteur : ltat 1 avec la probabilit pY ; ltat 2 avec la probabilit (1 p)X ; ltat 3 avec la probabilit p(1 Y) ; ltat 4 avec la probabilit (1 p)(1 X).Si les tats 1 ou 2 sont observs, probabilitP12 = pY + (1 p)X,on aura dcid que le phnomne sest produit, ce qui est faux dansle cas 2. La probabilit, a posteriori, de ne stre pas tromp est :Si les tats 3 ou 4 sont observs P34 = p(1 Y) + (1 p)(1 X) onaura dcid que le phnomne ne sest pas produit, ce qui est fauxdans le cas 3. La probabilit a posteriori de ne pas stre tromp est :La probabilit moyenne de ne stre pas tromp est :pY + (1 p)(1 X)Elle est maximale pour Y = 1 et X = 0, p tant donn.Ce cas correspond la double condition : le seuil S est fix E ; le seuil S, donc E, est lev.Cersultatnarienpoursurprendre.Silnergieutilisepourobserverestimportante,ilyatouteschancesque,sionconstatedanslercepteurunenergiequivalenteousuprieure,ellesoitdue au phnomne.Laprobabilitquelnergiereue,suprieureougaleE,soituniquement due aux bruits est :do :avec C certitude de lobservationOnacest--dire sinonilfautprendreunedci-sion contraire. Si, dans le pire des cas, lnergie E sest dissipe enchaleur, lobservation a pour cot une augmentation dentropie de et le rendement de lexprience vaut :dans le cas simple o le phnomne avait a priori la chance de se produire.Danslemeilleurdescas, = 1.Lexpriencedonneunrsultatavec50 %dechancesderreur(C = 2).AvecE = 4 kT,lacertitudeatteint 54, cest--dire que lon est sr 98 % du rsultat.On est toujours conduit distinguer : le cas macroscopique h > kToEestlimitinfrieurement h.LerendementnepeutdpasserParcontre,lacerti-tude augmente.La gure 3 reprend ces rsultats o apparaissent les variations delnergieminimaleWnncessaireuneobservationetlerende-ment correspondant 1 en fonction de hn.En rsum : lesexpriencesmacroscopiquespeuventatteindreunrende-ment excellent, mais parfois avec un doute lev cause des pertur-bations dues lagitation thermique ; lesexpriencesmicroscopiquessontpeudouteusescarpeuperturbes. Mais elles ont un mauvais rendement ; si on sintresse la mesure des longueurs L, donc la mesurede lespace, ce quoi se rsume une grande partie des expriences,onremarquequilfautdisposerdunenergieDE.Silalongueurdonde associe , elle permet en principe dobserver une positionavec la prcision DL = /2.Tableau 1 Seuils de dcisionCas Le phnomnetat natureldu rcepteurtat observdu rcepteur1 a eu lieu : p2na pas eu lieu :I p3 a eu lieu : pniveau < S E niveau < S4na pas eu lieu :I pniveau < S niveau < Se niveau S E PS E kT-------------- exp =niveau S P pS E kT-------------- exp =niveau S PSkT------- exp =niveau S PSkT------- exp =P IS E kT-------------- = P 1 p ( )SkT------- exp =P ISkT------- =P 1 p ( ) =1SkT------- exp S E kT-------------- Y = exppYpY 1 p ( )X +-------------------------------------1 p ( ) 1 X ( )p 1 Y ( ) 1 p ( ) 1 X ( ) +-----------------------------------------------------------------MIC---- E/kT ( ) exp = =LCEkT------- =C 2, M 50% DSET--- =rDTDS--------k n2k LC--------------n2LC---------- = = =p12--- =nn2hn---------- kT. THORIE DE LINFORMATION_____________________________________________________________________________________________________________ Toute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite. E 3 084 - 6 Techniques de lIngnieur, trait lectroniqueOnpeutalorscrire,enexaminantlafonctionmacro-microsco-pique :aveccvitesse de la lumire,DL0 se nomme longueur caractristique et une autre manire dedistinguerlesdeuxcasdexprienceestquellessedroulentendea ou au-del de DL0.On a toujours :do :relationfournieparlathoriedelinformationetquilielnergieminimaledployerpourobteniruneprcisiondemesurespa-tiale DL.Cetterelationmetenvidencelinsigniancepourlephysiciencommepourlinformaticiendesdimensionstropfaibles,commencessitant des nergies inimaginables pour tre observes.2. Information contenue dans une loi physique2.1 ConstatationsLon Brillouin sest pos le problme dvaluer la quantit dinfor-mation contenue dans une loi physique, quelle quelle soit.Il remarque dabord que toutes les lois sont exprimentales : leurexpressionmathmatiquerigoureusenestquapparence,cesontdes modles utilisant un langage conventionnel. Ainsi pour la chutedes corps : avec des instruments ordinaires on trouve une parabole.Au fur et mesure que loutil devient subtil on passe lellipse (loideNewton)djperturbeparlarsistancedelair.Onsaitexpli-quer lanomalie, mais si on opre sur des corps rapides, le modlerelativisteestmeilleur.Oestlaralit ?Nullepartquedanslensembledesmesuresquelephysicienaeffectues ;lamatirenobit rien, elle nest point cause nalire comme et dit Vol-taire. De ces conceptions rsulte ce fait capital quune loi physiquenest dnissable que dans un domaine born. Lintervalle de varia-tion de la grandeur mesure est ni. Donc : premire constatation : une loi deux variables (cest le mini-mumvident)estreprsentepar quelquechose dansunrec-tangle, qui en dfinit le domaine de validit (figure 4) ; deuximeconstatation :ce quelquechose nestpasunecourbeausensmathmatique,maisunelignepaissetenantcompte de la prcision pratique avec laquelle on effectue les mesu-res, prcision de toute faon limite par la mcanique quantique.2.2 DnitionLaquantitdinformationcontenuedansuneloinestpasdis-tincte de linformation apporte par les expriences qui ont permisde ltablir.A priori, on peut penser que la loi peut avoir une forme quelcon-que dans le domaine de validit de surface S. A posteriori, on trouveque la loi est enferme dans la surface s de la ligne paisse.Linformation est donc simplement :I = log2 (S/s) = log2 S log2 sOn remarquera la simplicit de cette dnition. Linformation crotnaturellement avec le domaine de validit et la prcision des mesu-res.Ilyaainsi,normalement,plusdinformationdanslarelativitgnralequedanslaloideNewton.Remarquonsquonvientdedire par l quEinstein nous en a appris davantage mais pas dutout que Newton avait tort. La nature a horreur du vide tait uneloidetoutourien,toujoursvraie,dumoinsjusqueversles10 m,mais peu nuance. Elle contient peu dinformation. Le lecteur philo-sophe saisit limportance de toutes ces remarques qui nont presquepas t explicites jusqualors et combien parat satisfaisante sur leplan de lhistoire humaine la thorie de linformation.2.3 GnralisationI Cette dnition se gnralise aisment au cas o la loi comportenvariablesx1,x2 ... xndontlacquisitiondapprciationnedpasse pasdx1, dx2 ... dxnetdontlesintervallesopratoiressontX1, X2 ... Xn.Linformation contenue par une relation f (x1, x2 ... xn) = 0 qui d-nit la loi peut tre mesure par le logarithme du rapport des volu-mes soit :Figure 3 nergie minimale et rendement dune observation0,7 kT1kT h45WminWminhnkT-------hckTl----------hc2kTDL------------------DL02DL----------- = = =DL0hckT-------1,4T--------102 m. = =DE hn >hcl-------hc2DL----------- = =DEDLhc2------- > 1025 N =Lescasexaminsfontlhypothsetaciteque,lespoints pais delaloipourraientsesitueraprioripartoutdanslerectangle de la gure 5 ou dans le volume V. Il est en rarementainsi, au moins parce que les contraintes classiques rgularitdescourbes,nergietemps,masses,largeurdebandes,etc.,nies ou les connaissances partielles dj acquises font quilexisteunedensitapriorinonuniformedelaprsencedespointsreprsentatifs.IlfautdoncpondrerlesinformationsI.Cela ne pose aucun problme de fond, autre quune difcult decalcul.Figure 4 Reprsentation dune loi physique deux variablesX1 X2 ... Xndx ... dxn--------------------------------- logVv---- = logymaxxmaxyminxminLoi physiqueyx_____________________________________________________________________________________________________________ THORIE DE LINFORMATIONToute reproduction sans autorisation du Centre franais dexploitation du droit de copie est strictement interdite. Techniques de lIngnieur, trait lectronique E 3 084 - 7I voquons le cas dune thorie, celui qui met un peu non pas unemais un ensemble de lois Ii (i = 1 n). Si ces lois sont indpendantesetcontiennentlesinformationsIi(ide1n)lathorieTcontientlinformation.Si tel nest pas le cas, on dira que la connaissance de la loi lk sp-cie dj un peu la loi lm donc que linformationquelle contientest moindre quauparavant :do :R reprsente une redondance ou une information de corrla-tion entre les lois 3. Information et civilisation3.1 Une formule dvolutionI Linformation nat de lexprience et le rle du cerveau est de lastocker,delpurer(larendrepeuredondante)aussibienquedecrer de linformation ctive ou virtuelle (thories) que lon soumet-tra aux faits, le moment venu.Unecivilisation,cest--direungroupedhommesformantunsystme ou socit relativement ferm peut donc tre caractrise,enautresparamtres,parlaquantitdinformationdontelledis-pose et la loi dvolution I(t) de cette information.I Considronsunindividuquelconquehappartenantunesocit S. On peut distinguer trois phases dans la vie de cet indi-vidu, tant prcis quelles peuvent se chevaucher ou tre rpartiesle long de la vie.1. Lapprentissageaucoursduquel,soitpartraditionorale,soitpartraditioncrite,soitparexprienceprofessionnelle,hacquiertune certaine quantit dinformation ih. Mais cette information nestpasnouvelle.ElleestconnuedelasocitS.Cestunefraction,gnralement faible de I. Elle stend sur une priode T, et lon peutcrire :ih = a T1 Iavec a coefcient dducation2. LactivitquistendsurunepriodeT2aucoursdelaquellelindividuestamen,parlexprience,acqurirdelinformationcettefoisnouvelleDIhpourlasocit.Nousproposeronsdcrireque cette acquisition est proportionnelle T2 et la quantit dinfor-mation dont dispose lindividu :DIh = K T2 ihK mesure lintelligence active de lhomme. Il y a toutes raisons depenser, quen moyenne, ce coefcient est pratiquement constant aucours des ges.3. Laretraiteourepos(dureT3)aucoursdelaquellelhommeprocdegnralementuntraitementdelinformationquilagre.Par consquent, linformation dont lindividu h a enrichi sa socitestDIh,maiscetenrichissementnesttotalquemomentanment.En effet, seule la partie DIh sera transmise au patrimoine commun( < 1). dpend avant tout des facilits dchange entre les mem-bres de la socit : invention de lcriture, de limprimerie, rapiditde transmission, accs avec bases de donnes, tandis quune partieI(T1 + T2 + T3) du capital de la socit a disparu pendant le temps(T1 + T2 + T3) par dgradation, perte ou oubli.I FinalementlapportpourNindividus,pendantletempsV = T1 + T2 + T3 est :DI = NlDIh I(T1 + T2 + T3)DI = I(NlKT2aT1) I(T1 + T2 + T3)Toutsepassecommesipendantletempsdtlaccroissementtait :soit :avec C facteur de civilisationIl vient nalement :3.2 DiscussionCetteformule,obtenuepartirdhypothsestrssimpliescontient nanmoins les grandes lois de lvolution des civilisations :1) lvolutionestexponentielle ;cefaitestressorti,dansnotresicle, comme vident ;2) le facteur de civilisation peut tre presque nul ou ngatif. Onconnat encore aujourdhui des exemples de socits primitives quine se dveloppent pas ou sont en voie dextinction. Pour ces gens et a sont petits et grand, mais surtout N est petit ainsi que la lon-gvit V (voir discussion en 3). Il existe ainsi une population critiqueNc en dessous de laquelle aucun progrs nest possible ;3) la dure de vie moyenne intervient par le facteur Figure 5 Rectangle dincertitudeExemple : une thorie deux lois fait que la premirespciepartiellementlasecondeLespossibilitsdesupposedeuxvariablesaulieudesexprimerdanssonrectangledincertitudeest restreinteunesurfaceouzonepluspetitecommelemontrelagure 5.Y2y2X2x2Rectangle dincertitudeZone de restriction du faitde la loi 1 (surface s2)Lieu de f (x1 x2) (surface s2)Ancienne information : I2 = logX2Y2s2Nouvelle information : I2 = logs2s2I Ii1n=ImImIm