1

Convegno Internazionale

GIULIO PRETI A TRENT'ANNI DALLA SCOMPARSA

Castello Pasquini, Castiglioncello

17-19 ottobre 2002

Le problème logique de la quantification existentielle chez Pretiet Hilbert

Jean PETITOT

EHESS et CREA (Ecole Polytechnique), Paris

petitot@poly.polytechnique.fr

I. L'EXISTENCE COMME PREDICAT DANS LES TRAVAUX INEDITS DE GIULIO PRETI

1. Les Ricerche ontologiche de 1955

Dans un inédit du 16 octobre 1955 que Fabio Minazzi, qui a joué un rôle

considérable dans la réévaluation de Giulio Preti, m'a obligeamment communiqué il y a

quelques années, Giulio Preti aborde le problème logiquement et philosophiquement central

de l'existence comme prédicat.

Ce texte est le début d'un ouvrage intitulé Ricerche ontologiche, sans doute en

référence explicite aux Logische Untersuchungen de Husserl et il s'insère dans le plan

suivant :

Ricercha prima

La nozione di "Realtà" e il concetto di "ontologia"

Sezione prima

Realtà ed Esistenza

Capitolo I°

L'esistenza di un oggetto.

Il est particulièrement intéressant car il manifeste de façon exemplaire la façon dont Preti

utilisait la logique à des fins philosophiques.

Preti se propose d'analyser les expressions du type "x è reale" et "x esiste" (p. 9) et

commence par les secondes. Fidèle à la tradition vérificationniste de la logique

philosophique du XXe siècle, il fait l'hypothèse qu'analyser la signification d'une

expression consiste à savoir comment elle peut être vérifiée (p. 10). Il note F! x le fait que

2

l'énoncé F(x) n'a de sens que si x est un symbole désignant un individu et il pose donc la

question du sens des énoncés E! x (l'individu x existe) où "l'existence" E fonctionne comme

un prédicat. Philosophiquement, la question est particulièrement lourde puisque, de Kant à

Frege et Russell, la philosophie et la logique modernes ont précisément rejeté la thèse que

l'existence puisse être un prédicat.

Mais les individus étant donnés à travers des descriptions définies ou indéfinies,

Preti pense l'existence dans ce cadre et commence par les "descritti indeterminati" (p. 13).

"Per quanto riguarda gli enunciati della forma 'esiste un x tale che …', unatale analisi è molto facile. Conveniamo di scrivere 'τxF(x)' per 'un x taleche F(x)'." (p. 15)1

Il introduit donc un opérateur logique qui formalise l'article indéfini et il développe les

équivalences :

Ε! τxF(x) ⇔ ∃x F(τxF(x))

F(τxF(x)) ⇔ F(x)

Ε! τxF(x) ⇔ ∃x F(x)

Il faut noter que Preti commet d'ailleurs une erreur dans la manipulation des

symboles τxF(x) dans les deux premières équivalences. En effet dans des expressions de ce

genre la variable x, qui est libre dans la formule F(x), devient une variable liée et par

conséquent la formule ∃x F(τxF(x)) n'est plus bien formée. C'est F(τxF(x)) qui est une

expression bien formée et, comme nous allons le voir, les bonnes équivalences sont

Ε! τxF(x) ⇔ F(τxF(x)) ⇔ ∃x F(x).

Preti se réfère ici à un formalisme fondamental développé par Hilbert, Bernays et

Ackermann dans la première moitié des années 1920 et qui consiste à introduire dans le

calcul des prédicats classique CP un opérateur τ — noté aussi ε — qui permet d'associer à

tout prédicat F(x) un symbole d'individu τxF(x) symbolisant un individu satisfaisant F (s'il

en existe) mais par ailleurs quelconque. Je vais y revenir longuement car il s'agit du cœur

de mon exposé.

1 Preti utilise des notations devenues obsolètes que nous remplaçons par les notations actuelles.

3

2. Histoire d'un contexte

La découverte de cet inédit a été pour moi un choc car il se trouve que j'ai pour ma

part découvert le formalisme hilbertien il y déjà bien longtemps et que j'ai toujours

considéré qu'il était d'une importance philosophique capitale. La réflexion à son sujet à

accompagné nombre de mes travaux sur la logique. Je l'ai utilisé pour la première fois en

1975 lors de la rencontre sur l'apprentissage organisée entre Chomsky et Piaget au Centre

de Royaumont par Massimo Piatelli. Je l'ai ensuite utilisé dans mon article Infinitesimale de

1979 dans l'Enciclopedia Einaudi pour clarifier en termes de logique philosophique le

statut apparemment paradoxal des infinitésimales leibniziennes tel qu'il est formalisé par

l'analyse non standard.2 Puis j'ai donné plusieurs cours sur ce thème à l'Université de

Bologne chez Umberto Eco en 1980 en présence de Marco Santambrogio qui a développé

plus tard ces idées dans ses propres travaux et en particulier dans son ouvrage de 1992

Forma e oggetto. D'après le témoignage d'Alberto Peruzzi, ses discussions avec

Santambrogio sur le cours de Bologne ont joué un rôle important dans ses propres

réflexions sur la logique des descriptions définies.3 Ces réflexions le conduisirent à entrer

alors en contact avec John Bell et à poser le problème d'une formalisation de l'opérateur de

Hilbert dans le cadre de la logique intuitionniste interne à un topos.4 Je vais y revenir.

Par ailleurs, mon approndissement de la pensée de Preti pour le colloque de Milan

de 1987 Il pensiero di Giulio Preti nella Cultura filosofica del novecento 5 avait été pour

pour moi une étape importante de ma reconstruction de l'illuminisme européen. On

comprendra donc que le fait que l'un des philosophes rationalistes et humanistes que

j'estime le plus se soit référé à un formalisme pour moi crucial m'émeuve beaucoup.

3. Le problème de la quantification transfinie

Dans la suite de son texte, Preti souligne le problème fondamental de la

quantification, qui est précisément à l'origine des travaux de Hilbert et de son école. Une

2 Cf. aussi Petitot [1999].

3 Cf. Peruzzi [1983] et [1989].

4 C'est au colloque de Castiglioncello qu'Alberto Peruzzi m'a appris que les travaux de John Bell que j'avais

évoqués dans ma conférence avaient en partie comme origine les discussions qu'il avait eu avec ce dernier sur

les formalismes exposés 20 ans plus tôt dans mon cours de Bologne. Il s'agit d'un exemple de la circulation

souterraine et imprévisible des idées.

5 Cf. Petitot [1990], texte repris en partie dans mon article de 1993 avec F. Minazzi dans les Archives de

Philosophie "La connaissance objective comme valeur historique: le néo-illuminisme italien".

4

quantification existentielle ∃x F(x ) équivaut intuitivement à une disjonctionF(a1)∨K∨F(an )∨K où les ai sont les éléments du domaine de définition dom(F) de F. De

même, une quantification universelle ∀x F(x) équivaut intuitivement à une conjonctionF(a1)∧K∧F(an )∧K On pourrait donc croire que l'on peut éliminer les formules

quantifiées existentiellement

"reconducendone la verifica a quella di una proposizione molecolaredisgiuntiva nella qualle non entra più alcun operatore esistenziale" (p. 16)

et idem pour les quantifications universelles. Mais si le domaine dom(F) de F est infini

alors ∨ et ∧ deviennent des opérateurs transfinis et la vérification des énoncés devient

impossible et donc, d'après la thèse vérificationniste, les énoncés eux-mêmes deviennent

"privi di senso" (p. 18)

Le problème est incontournable et insurmontable. En effet d'après le théorème de

Löwenheim-Skolem, toute théorie du premier ordre de domaine infini admet des modèles

non standard.6 Prenons par exemple le cas d'une théorie s'exprimant dans le langage de

l'arithmétique. Dans un modèle non standard N* de N il existe des entiers ν infinis.

Supposons alors que l'on sache démontrer pour tout n ∈ N l'énoncé F(n). Cela n'impliquera

pas en général l'énoncé universel ∀n F(n). En effet cet énoncé étant du premier ordre est

aussi valable dans N*, or il n'existe aucune raison pour que F(ν) soit vrai d'entiers infinis ν.

F peut n'être valable que pour des entiers "vraiment" finis n. Or l'ensemble N des entiers

"vraiment" finis n'est pas caractérisable au premier ordre comme sous-ensemble de N*,

c'est un sous-ensemble "externe" et non pas "interne" de N*. Cela est très intuitif : N et

N* ayant la même théorie par définition des modèles non standard, si N était un sous-

ensemble interne de N*, il y aurait un sous ensemble N° de N qui serait à N ce que N est

à N* et représenterait des entiers en quelque sorte "hyperfinis". Mais il est évident que,

quelle que soit la définition envisagée, si n est "hyperfini", n+1 le sera aussi et donc

N° = N. Or N ≠ N*.

4. Les descriptions définies de Russell

Preti aborde ensuite "l'esistenza di descritti determinati" en reprenant "la celebre

analysi Russelliana" des descriptions définies (p. 17). Dans le cas où F(x) satisfait les

propriétés d'existence et d'unicité des x tels que F(x), le symbole russellien ιxF(x) symbolise

"il x tale che F(x)", ce qui conduit à définir dans ce cas le prédicat d'existence par

6 Pour des précisions, cf. Petitot [1979] et sa bibliographie.

5

Ε! ιxF(x) ⇔ ∃y∀x (F(x) ⇔ x = y).

Ce passage par les descriptions définies (Russell) et indéfinies (Hilbert) permet alors

à Preti de traiter de l'existence d'objets. Il rappelle la thèse nominaliste russellienne associée

à "la métaphysique de l'atomisme logique", à savoir que l'existence de a n'a de sens que si a

est une description et non pas un symbole d'individu. Mais on peut résoudre le problème en

utilisant des τ-termes. Preti propose (p. 20) :

E! a ⇔ E! ( τx(x = a)) ⇔ ∃x (x = a)

et il remarque avec profondeur :

"Cioé un oggetto a esiste se il symbolo a denota : la verifica si ridurebbea quella di enunciati deittici." (p. 22)

Cet appel à des entités pragmatiques comme les déictiques pour résoudre des problèmes de

quantification et de sémantique (de dénotation, de référence) est tout à fait remarquable,

nous allons voir pourquoi.

On remarquera que si Preti peut ainsi définir le prédicat d'existence E!a dans le

contexte des opérateurs de Russell-Hilbert c'est parce qu'il utilise une généralisation

existentielle F(a) ⇒ ∃x F(x) qui est "faible" au sens où l'individu a n'existe pas forcément

ontologiquement comme individu complètement déterminé. Ainsi que le remarque Frédéric

Nef (1998, p. 191)

"La généralisation existentielle au sens faible contredit la positioncourante d'après laquelle l'existence n'est pas un prédicat"

Ces réflexions de G. Preti sont à situer dans le contexte de ses recherches sur ce qu'il

appelle son "néo-réalisme", ou son "réalisme phénoménologique", ou encore son

"objectivisme transcendantal". Pour une analyse détaillée de ce contexte, de la critique

nominaliste du réalisme scholastique à la noématique husserlienne et au platonisme de

Gödel en passant par le positivisme logique, on pourra se référer au manuscrit Il

neorealismo logico. Saggi di ontologia filosofica, texte tardif puisque Preti y cite aussi bien

la Philosophy of Mathematics de Benacerraf et Putnam de 1964 que les Eléments de

logique mathématique de Kreisel et Krivine de 1967.

Le néo-réalisme se distingue du réalisme ontologique qui postule que les termes

universels dénotent des substances universelles extra-mentales. Mais il maintient la thèse

6

que, en tant que fonctions unificatrices du divers empirique (point de vue transcendantal),

les universaux possèdent une réalité objective, au sens d'un contenu noématique dont la

"transcendance" est fondée dans l'immanence des actes intentionnels y donnant accès.

5. L'Unità della Scienza e il Mondo Reale

Dans un autre texte de la fin des annnées 50, L'Unità della Scienza e il Mondo

Reale, Giulio Preti reprend exactement les mêmes problèmes, mais dans un style moins

technique et plus discursif et en abordant des difficultés supplémentaires.

1. Une difficulté métaphysique. Si tous les objets sont des "descritti" alors ils se

réduisent à des constructions logiques et donc à des "fictions symboliques", des "entita

fittizie" et des "noms propres apparents". Du coup, la réalité devient complètement

fictionnelle et n'est plus constituée que "di meri enti metafisici non conoscibili". C'est le

problème du nominalisme.

2. Une difficulté métamathématique. Il existe une différence essentielle entre les

idéalistes-formalistes pour qui l'existence équivaut à la consistance logique et les

empiristes-constructivistes pour qui une preuve d'existence doit être effective.

3. Une difficulté technique. Le problème de l'existence des classes est "un problema

molto grave ed importante". C'est le problème des prédicats collectivisants, de la

quantification du second ordre et des axiomes de compréhension en théorie des ensembles.

Je vais maintenant consacrer le reste de mon exposé aux problèmes qui ont poussé

Hilbert à introduire ces descriptions indéfinies qui méritaient pour Preti d'ouvrir ses

Ricerche ontologiche. Effectivement, le problème est critique et engage l'ensemble des

problèmes fondationnels.

II. DEFINITIONS GENERALES DE L'OPERATEUR DE HILBERT

1. ε-termes et quantification existentielle

Soit F(x) un prédicat (unaire) quelconque. De façon purement syntaxique, Hilbert

introduit un symbole intensionnel d'individu — dit ε−terme — noté εxF(x ) ou εF par

commodité, où x devient une variable liée. εxF(x) possédant le même type logique que celui

des arguments x de F , l'expression F(εF), bien qu'auto-référentielle, est pourtant bien

formée. Plus généralement, pour toute formule ouverte G(y) à une variable libre y de même

type que x (en particulier pour tout autre prédicat unaire), G(εF) est une formule fermée,

c'est-à-dire un énoncé. εxF(x) est un symbole complet (fermé, saturé). Mais l'opérateur ε

permet de construire des symboles incomplets. Si F(x,y) est un prédicat binaire, alors

7

εxF(x,y) est un prédicat unaire de y et l'on peut former l'ε-terme εyεxF(x,y), etc.

L'existence et l'identité des ε-termes ainsi définis sont purement syntaxiques. Il est

essentiel d'insister sur le fait que εF est un symbole d'individu et non pas de variable.

Sémantiquement (au sens banal de "sémantique"), εF représente — et en quelque sorte

"hypostasie" — l'idée d'un individu satisfaisant F, et cela que l'extension XF de F soit non

vide ou non. C'est un individu idéal représentant l'idée d'un individu qui satisfait F,

autrement dit une idée in individuo. Comme le dit John Bell,

"We may think of εF as meaning an ideal object associated with F: all oneknows about it is that, if anything satisfies A, it does."7

Ou encore, comme l'expliquent Urs Egli et Klaus von Heusinger (1995, p. 13), un ε-terme

εF

"denotes the most salient individual that has the property F"

où la saillance est définie par une hiérarchie de saillance au sens de Lewis (1979).

Hilbert définit alors la quantification existentielle par l'équivalence syntaxique :

(∃) ∃x F(x) ≡ F(εF).

Informellement interprétée, cette équivalence signifie que le fait qu'il existe un

individu satisfaisant F équivaut au fait que l'idée in individuo d'un individu satisfaisant F

satisfait effectivement F. Il s'agit donc d'un critère de consistance de signification. Par

l'adjonction d'individus idéaux à l'univers considéré, il devient par conséquent possible de

ramener des formules avec quantificateurs à des formules de forme strictement plus simple,

sans quantificateurs. Il y a là une opération qui, au-delà de son intérêt proprement logique,

est, comme nous l'affirmons depuis longtemps,8 d'une grande portée philosophique.

Appelons subsistance, pour ne pas la confondre avec l'existence formalisée par le

quantificateur ∃ , l'existence purement symbolique et syntaxique des ε-termes.9

L'équivalence (∃) signifie que l'existence équivaut à un redoublement en consistance (en

7 Bell [1993], p. 1.

8 Nos premiers travaux sur cette question remontent au milieu des années 70 et concernaient l'utilisation du

formalisme hilbertien pour invalider un soit disant "théorème" de Jerry Fodor ayant servi de base à la critique

chomskyenne des théories associationnistes de l'apprentissage et à la justification de thèses innéistes.

9 Nous empruntons cette dénomination à la théorie des états de choses (Sachverhalten, states of affairs). Cf.

Petitot [1985].

8

cohérence sémantique) d'une subsistance. L'existence est l'effet du fait que la subsistance

symbolique εF puisse posséder une référence consistante conforme à son contenu idéal. Elle

est donc un type particulier d'auto-référence.

Au sens que possède l'opposition entre syntaxe et sémantique en théorie logique des

modèles (où la sémantique s'identifie à la dénotation), qu'en est-il de l'interprétation des ε-

termes ? A supposer que l'on ait interprété F(x) dans un modèle M du langage L dont F(x)

est une formule, comment doit-on interpréter εF ? Comme nous le verrons, de nombreuses

discussions ont eu lieu à ce propos. Elles tournaient toutes, sans le reconnaître au départ,

autour du fait que les ε-termes εF sont des entités intensionnelles.

Comme un déictique d'une langue naturelle, εF est en quelque sorte un symbole-

index — i.e. une entité intensionnelle de nature pragmatique et dépendante du contexte —

dont l'identité syntaxique est parfaitement bien définie (aspect symbole) mais dont l'identité

sémantique (la dénotation) est au contraire indéfinie (aspect index). C'est pourquoi, avant

que les logiques intensionnelles et la pragmatique formelle n'aient investigué ce genre

d'entités, on interprétait sémantiquement les ε-termes comme des opérateurs de choix. Soit

XF l'extension de F et supposons XF ≠ Ø, i.e. supposons que ∃x F(x) soit valide.

Sémantiquement, εF fait plus que simplement dénoter un certain élément a ∈ XF (ce qui

serait le cas si εF était simplement un symbole de constante). Il sélectionne un élément

a ∈ XF. La définition (∃) devient alors la reformulation de la règle d'introduction du

quantificateur existentiel (règle GE de généralisation existentielle) du calcul des prédicats :

(GE) F(a) ⇒ ∃x F(x).

En tant qu'opérateur de choix relatif à l'extension XF, εF peut être considéré comme

un type générique dont les spécialisations sont les éléments a ∈ XF. Ce simple fait suffit à

en laisser soupçonner la pertinence cognitive et sémio-linguistique.

2. Le contexte philosophique : ontologie formelle et objets abstraits

Les constructions logiques hilbertiennes sont en profonde résonnance avec certains

des plus anciens et des plus fondamentaux problèmes de la logique philosophique depuis le

Moyen-Âge, ceux concernant l'ontologie formelle des objets abstraits idéaux et génériques

ainsi que l'existence comme prédicat. L'histoire métaphysique en est immense puisque c'est

celle du conflit réalisme / nominalisme en matière d'universaux.

Des nominalistes à Berkeley et de Berkeley à Husserl, la plupart des philosophes

ont refusé d'accepter des individus abstraits (i.e. des individus pouvant individuer une idée

9

générale) pour la raison qu'en tant qu'entités abstraites se sont des objets incomplets alors

qu'en tant qu'individus se sont nécessairement des objets complets d'après le tiers exclu

(pour toute propriété P ils doivent satisfaire P ou ¬P). L'exemple classique est celui de

l'absurdité du "triangle général" qui devrait être à la fois rectangle et équilatéral. C'est pour

répondre à cette question que Kant inventa le concept de schème comme objet générique

(en fait comme contenu noématique au sens de Husserl) associé à un concept et donnant la

règle de construction des référents de ce concept.

Au XXème siècle cette question centrale a été relancée entre autres par Alexius

Meinong et a fait l'objet d'un débat ayant impliqué tous les philosophes et logiciens

intéressés par l'ontologie formelle, de Husserl à Quine en passant par l'école polonaise

(Lesniewski, etc.). On trouvera un excellent panorama du débat dans l'ouvrage de Frédéric

Nef (1998) sur L'objet quelconque.10

Comme nous le verrons plus bas, la réponse à ces difficultés se trouve bien du côté

du statut pragmatique des ε-termes comme symboles-index : les ε-termes sont des individus

intensionnellement décomplétes. Ce ne sont pas des entités abstraites mais des individus

qu'une décomplétion intensionnelle (indexicale et modale) permet de considérer comme des

intermédiaires intentionnels entre des symboles de variables et des objets concrets dénotés.

Ce point a été particulièrement bien approfondi par le spécialiste d'ontologie

formelle et de logique intensionnelle Edward Zalta qui défend l'introduction d'objets idéaux

pour tous les types logiques et a consacré de nombreux travaux au prédicat d'existence, qu'il

note comme Preti E!a, et au prédicat d'abstraction, qu'il note A!a ("a est un objet abstrait").

Son idée est que les individus génériques idéaux "encodent" des propriétés au lieu de les

exemplifier. Ce ne sont pas des "supports" de propriétés mais des encodeurs de règles

déterminantes et ils conduisent à définir deux types différents de prédication. Ce sont des

"concepts-objets" (des idées in individuo) qui sont "constitués" par les descriptions qui les

déterminent sans pour autant y satisfaire nécessairement. Ils ne sont donc complets que par

rapport à leurs propriétés déterminantes et restent incomplets par rapport à leurs autres

propriétés possibles. Cet écart entre "constitution" syntaxique et "satisfaction" sémantique

est d'ailleurs une façon de formuler leur statut de symbole-index. Dans un article comparant

la théorie de ces objets chez Ernst Mally (le disciple de Meinong lui ayant succédé à sa

chaire de Gratz) et Husserl, E. Zalta (1998) conclut que, phénoménologiquement parlant, ce

sont des contenus noématiques intentionnels

10 Pour une introduction à l'ontologie formelle on pourra aussi consulter l'excellent Poli [1992].

10

3. ε-termes zéro et quantification universelle

Qu'en est-il maintenant d'un jugement non plus existentiel mais universel, du type

∀x F(x) ? En logique classique (mais pas en logique intuitionniste, nous y reviendrons à la

fin de cette étude), on a les équivalences suivantes :

∀x F(x) ⇔ ¬∃x ¬F(x) (dualité ∀↔∃ à travers la négation);11

∃x ¬F(x) ⇔ ¬F(ε¬F) (d'après (∃) appliquée à ¬F);

¬∃x ¬F(x) ⇔ ¬¬F(ε¬F);

¬¬F=F (double négation classique);

et donc, en définitive :

(∀) ∀x F(x) ⇔ F(ε¬F).

Il faut insister sur le fait que (∀) utilise la force de la logique classique. Par

exemple, comme l'a montré J. Bell (cf. plus bas), on peut dériver de l'opérateur ε la loi du

tiers exclu sous la forme

¬∀x F(x) ⇒ ∃x ¬F(x).

Sans l'utilisation de ¬¬F = F on ne peut déduire que le principe de Markov

(∀x ¬¬F(x) ⇒ F(x)) ⇒ (¬∀x F(x) ⇒ ∃x ¬F(x))

qui affirme le tiers exclu pour les prédicats décidables (i.e. tels que ¬¬F = F).

En ce qui concerne la sémantique des ε-termes associés aux énoncés universels,

supposons que l'énoncé ∀x F(x) soit valide une fois interprété dans un certain modèle M de

L. L'ε-terme ε¬F subsiste toujours symboliquement. Mais il ne peut pas dénoter de façon

consistante, conformément à son sens, puisque par hypothèse il n'existe aucun individusatisfaisant ¬F. Tout référent de ε¬ F nie le contenu de l'idée dont il est l'hypostase

individuée. On dit dans ce cas que ε¬F est un terme-zéro (un "null-term"). On pourrait dire

également que ε¬F est en quelque sorte un symbole-index clivé dont l'aspect symbole

(syntaxique) et l'aspect index (sémantique) sont devenus contradictoires. C'est d'ailleurs

11 ¬F est la négation de F.

11

pourquoi l'interprétation de l'opérateur ε a fait problème et qu'un certain flottement était

repérable chez les premiers commentateurs. Elle présuppose en effet de bien faire la

différence entre, côté syntaxe, la description-attribution et, côté sémantique, la référence-

dénotation (cf. Donnellan, 1966). C'est un aspect de l'opposition classique entre Sinn et

Bedeutung. Un terme-zéro peut référer mais sans être aucunement attributif. La description

indéfinie qu'il symbolise est alors impropre.

4. Un exemple d'ε-terme zéro : les infinitésimales leibniziennes

Il ne faut pas croire que les termes-zéro soient des curiosités. Mon exemple favori,

développé il y a longtemps dans l'Enciclopedia Einaudi, reste celui des infinitésimales

leibniziennes. Soit R le corps totalement ordonné des nombres réels. Sa structure d'ordre

est archimédienne : elle satisfait l'axiome selon lequel tout nombre (aussi grand que l'on

veut) est atteignable par tout nombre (aussi petit que l'on veut) à condition d'additionner ce

dernier à lui-même un assez grand nombre de fois. Autrement dit, R satisfait l'énoncé :

(A) ∀y ∈ R+ ∀x ∈ R+ ∃n ∈N (nx > y)

(où R + est l'ensemble des nombres strictement positifs et N l'ensemble des entiers

naturels).

En passant des grands nombres à leurs inverses, cet axiome dit qu'il n'existe pas

d'infinitésimale dans R : tout nombre non nul (positif) aussi petit que l'on veut est plus

grand qu'un autre nombre non nul. Il n'existe donc pas de nombre (positif) qui soit non nul

et plus petit que tous les nombres strictement positifs. Autrement dit, R satisfait l'énoncé :

(I) ∀y (y ≠ 0) ⇒ ∃r ((r > 0)∧(|y| > r))

(où |y| est le symbole "valeur absolue").

Il est facile de voir que le concept leibnizien d'infinitésimale recouvre très

exactement le terme-zéro associé à l'universelle (I). En effet (I) est de la forme ∀y G(y) et

est donc équivalente à l'énoncé hilbertien G(ε¬G). Comme G est de la forme A ⇒ B, ¬G est

de la forme A∧¬B :

¬G(y) ≡ (y ≠ 0)∧∀r ((r > 0) ⇒ (|y| ≤ r)).

ε¬G correspond donc à l'idée d'un nombre différent de 0 et dont la distance à 0 est inférieure

12

à tout nombre réel strictement positif. C'est le dx leibnizien et ce dx est donc un terme-zéro.

L'axiome d'Archimède sous la forme (I) est alors équivalent à l'énoncé :

(I') G(ε¬G) ≡ (ε¬G ≠ 0) ⇒ ∃r ((r > 0)∧(|ε¬G| > r)).

Toute infinitésimale est soit nulle soit finie : il n'existe pas de référent numérique dans R

pour l'idée in individuo d'infinitésimale. Pour trouver des référents il faut passer par

l'Analyse non standard (Petitot 1979).

5. Le problème de la sémantique des ε-termes

L'interprétation de l'opérateur ε a fait quelque peu problème à cause de ces

difficultés. Un certain flottement est repérable même chez Bourbaki qui le place pourtant au

fondement de sa logique :

"Si F est une assertion et x une lettre, εxF(x) est un objet; considéronsl'assertion F comme exprimant une propriété de l'objet z; alors, s'il existeun objet possédant la propriété en question, εxF(x) représente un objetprivilégié qui possède cette propriété; sinon εxF(x) représente un objetdont on ne peut rien dire" 12.

De même chez R. Godement:

"[L'opération de Hilbert] consiste à choisir une fois pour toutes, pourchaque relation F et chaque lettre x, un objet vérifiant la relation F(x) (s'ilen "existe"; dans le cas contraire εxF(x) est un objet dont on ne peut riendire). Il va de soi que ce "choix" est purement fictif : l'intérêt del'opération de Hilbert est de donner un procédé parfaitement artificielmais purement mécanique pour construire effectivement un objet dont onsait seulement qu'il satisfait à des conditions imposées d'avance (dans lecas où de tels objets existeraient)." 13

La formule (∀) est à l'origine des travaux de Hilbert sur les fonctions de choix

transfinies. Initialement, Hilbert notait τxF(x) l'individu ε¬F et le pensait comme un contre-

exemple générique à F . Les énoncés universels (∀ ) étaient alors analogues aux

universalisations fréquentes en langue naturelle : "si même lui... alors tous..." :

si même τF qui représente idéalement un individu satisfaisant ¬F satisfait

12 Bourbaki [1958].

13 Godement [1962].

13

quand même F alors vraiment tous les individus satisfont F.

Ensuite Hilbert changea l'interprétation de l'opérateur τ puis changea de notation et passa à

l'opérateur ε.

L'opérateur de Hilbert rend ainsi dans une certaine mesure la contradiction

opératoire, non pas la contradiction logique brute mais cette forme plus subtile de

contradiction qu'est l'incompatibilité entre le signifié du symbole-index εF et les propriétés

"réelles" de ses référents. Il conduit à prendre prendre en compte des distinctions

inhabituelles en théorie des modèles.

(i) Dans un individu-type εF il faut distinguer — comme pour les énoncés — la

structure syntaxique (la construction de εF à partir de F), le sens (ou le signifié, le contenu

idéal, le Sinn) et les référents (la dénotation, la Bedeutung).

(ii) Syntaxiquement (symboliquement), εF subsiste. Lorsqu'il admet des référents

conformes à son sens, alors il existe. Sinon sa subsistance n'est qu'une existence purement

symbolique.

(iii) Il existe une double nature des ε-terme. εF symbolise un "ceci" indéterminé "qui

satisfait F", un "celui qui...". Mais il réfère aussi à un élément, au demeurant quelconque,

de l'extension XF si XF ≠ Ø.

C'est dans ce jeu entre la négation, l'article indéfini et le démonstratif que se joue

l'un des principaux intérêts de l'opérateur de Hilbert (Klaus von Heusinger y a récemment

aussi beaucoup insisté). Et cela d'autant plus que participe également au jeu l'article défini

dans son usage non anaphorique. Il existe en effet une troisième interprétation de

l'opérateur ε — l'interprétation que j'ai proposé d'appeler générique — qui consiste à

interpréter εF comme dénotant un élément générique de l'extension XF (si X F ≠ Ø). La

relation primitive d'appartenance a ∈ XF se trouve alors substituée par une relation

(également primitive) de spécialisation εF → a : l'élément a ∈ XF est un individu qui

spécifie et particularise — spécialise — l'élément générique εF. Dans cette interprétation, si

un prédicat G(y) est valide pour l'élément générique εF, il est ipso-facto valide pour toute

ses spécialisations, autrement dit, on a les équivalences :

G(εF) ⇔ εF∈XG ⇔ ∀x [(εF → x)⇒x∈XG)] ⇔ XF⊆XG ⇔ ∀x [F(x)⇒G(x)].

On voit ainsi en définitive que, comme beaucoup d'autres entités intensionnelles, les

ε-termes possèdent une interprétation de dicto (l'interprétation générique) et une

interprétation de re (l'interprétation spécifique comme fonction de choix).

Ces divers aspects de l'opérateur ε deviennent particulièrement intéressants et

14

significatifs si l'on songe qu'à partir de lui Hilbert et ses collaborateurs ont élaboré un calcullogique — dit ε-calculus et noté CPε — qui s'est révélé être syntaxiquement équivalent au

calcul classique des prédicats CP. CPε est constitué des composantes suivantes :

(i) le calcul standard des propositions;

(ii) des symboles de constantes individuelles et des symboles de variables en nombre

suffisant;

(iii) des symboles de prédicats n-aires, pour tout n;

(iv) les ε-termes correspondants;

(v) les règles standard de déduction dans CP;

(vi) la règle d'introduction de l'opérateur ε (ε-formula) :

(ε) F(a) ⇒ F(εF).

On démontre alors (cf. plus bas) que si ϕ est un énoncé de CP et ψ une conséquence

de ϕ dans CPε d'où le symbole ε est éliminable, alors ψ est en fait une conséquence de ϕ

dans CP. Autrement dit, CPε est une extension inessentielle (on dit aussi conservative) de

CP. Ce résultat n'est plus vrai du tout en logique intuitionniste.

Il n'y a donc aucune raison de considérer CP comme plus évident ou plus naturelque CPε. En fait, CPε est même philosophiquement beaucoup plus intéressant car, tout en

étant conservatif sur CP, il est plus expressif que ce dernier dans la mesure où les ε-termes

peuvent être combinés de façon plus compliquée que les quantificateurs.

III. LES ORIGINES METAMATHEMATIQUES ET LA PORTEE EPISTEMOLOGIQUE DE

L'OPERATEUR ε

1. La stratégie finitiste hilbertienne

L'opérateur ε a été introduit par Hilbert comme un outil dans son vaste programme

formaliste qui consistait à démontrer par des moyens finitistes la consistance des

principales théories mathématiques et, avant tout, de l'arithmétique formelle. On sait que ce

programme de recherche a dominé la logique mathématique jusqu'à ce que le théorème

d'incomplétude de Gödel en ait démontré les limites intrinsèques. Ce résultat négatif a en

partie fait déchoir pour les mathématiciens les tentatives pré-gödeliennes au rang de

curiosités, mais cela ne les empêche pas de garder tout leur intérêt cognitif, sémiologique et

philosophique.

On sait que la thèse de Hilbert était que, pour "fonder" les mathématiques, il fallait

15

démontrer leur consistance en ne faisant usage que d'une métalogique finie, celle-ci étant la

seule à pouvoir être considérée comme légitime et évidente a priori. Mais cela soulevait

immédiatement le problème de la présence de quantificateurs dans les axiomes de théories

possédant des modèles infinis. Car alors la quantification n'est plus un processus finitiste:

∃x F(x) (resp. ∀x F(x)) n'est plus une simple disjonction finie F(a1)∨...∨F(an) (resp. une

simple conjonction finie F(a1)∧...∧F(an). Il fallait donc pouvoir éliminer les quantificateurs

des axiomes sans pour autant affaiblir la force du calcul des prédicats utilisé. C'est pourquoi

Hilbert a cherché à définir les quantificateurs dans le cadre d'un formalisme satisfaisant aux

conditions très restrictives imposées par sa stratégie finitiste. Et il a cru trouver le cadreapproprié avec l'ε-calcul CPε (et ses dérivés). En effet, la stratégie finitiste impose que l'on

se restreigne à des manipulations logiques élémentaires sur des énoncés élémentaires (sans

quantificateurs) de type F(a), G(a,b), etc. C'est donc en élargissant l'univers des objets par

l'introduction d'objets idéaux qu'il faut arriver à éliminer les quantificateurs. Ce qui estpossible dans CPε avec l'introduction de la "transfinite logische Auswahlfunktion" qu'est

l'opérateur ε.

Après quelques essais remontant à 1923, Hilbert a introduit sa fonction de choix

transfinie dans son célèbre mémoire de 1925 Sur l'Infini 14 et, avec Bernays, il en a

développé l'usage dans son ouvrage monumental Grundlagen der Mathematik . Il a accédé

grâce à lui à un certain nombre de démonstrations constructives et finitistes de consistance

(cf. plus bas). Leisenring décrit ainsi sa stratégie formaliste générale.15

«Supposons que T soit une théorie fondée sur le calcul des prédicats. S'ilexiste un modèle M qui satisfait l'ensemble A des axiomes de T, alors Test consistante. […] L'objection à ce type de preuve de consistance estqu'elle requiert une très forte métathéorie. Par exemple, si la cardinalitédu modèle est infinie, il faut, pour démontrer que φ [une formule faussequelconque, par exemple 0 = 1] n'est pas un théorème de T [et que T estdonc consistante], utiliser des arguments non-constructifs montrant queles axiomes de CP sont vrais dans le modèle. Une des principalescontributions des formalistes a été de montrer que pour certaines théoriesparticulières ce type de preuve de consistance pouvait être menée à biende façon complètement finitiste.»16

Considérons par exemple les axiomes de la théorie T des ensembles infinis sur

lesquels est définie une relation < d'ordre total avec un plus petit élément.

14 Hilbert [1925]. Cf. aussi Hilbert [1927] ainsi que Bernays [1927] et Ackermann [1928].

15 Leisenring [1969]. Pour une introduction à la théorie des modèles, cf. Petitot [1979].

16 Leisenring [1969], pp.85-86.

16

A1 ∀x¬(x < x) non réflexivité de l'ordre

A2 ∀x∀y∀z((x < y) ∧ (y < z) ⇒ (x < z)) transitivité de l'ordre

A3 ∀x∀y((x < y) ∨ (y < x) ∨ (x = y)) ordre total

A4 ∀x∃y(x < y) ordre infini

A5 ∃x∀y((x = y) ∨ (x < y)) plus petit élément

L'ensemble N des nombres entiers muni de sa relation d'ordre naturel est un modèle

de T et donc T est consistante. Mais cette preuve sémantique est non constructive. Pour

accéder à une preuve syntaxique finitiste, il faut avant tout éliminer le quantificateur ∃ des

axiomes A4 et A5. On peut le faire par la méthode de "résolution" symbolique suivante. Soit

un axiome de la forme ∃x∀y B(x,y). On peut lui substituer ∀y B(s,y) (où s = εx∀y B(x,y) est

un ε-terme) qui est un axiome ne contenant plus qu'un quantificateur universel. De même,

soit un axiome de la forme ∀x∃y B(x,y). Suivant Skolem, introduisons un symbole de

fonction g (dite de Skolem) et posons g(x) = εyB(x,y). On a alors :

∀x∃y B(x,y) ≡ ∀x B(x,εyB(x,y)) ≡ ∀x B(x,g(x)).

Dans notre cas on obtient donc le système d'axiomes :

A1, A2, A3, A'4 : ∀x (x < g(x)), A'5 : ∀y ((s = y)∨(s < y)),

axiomes d'où les quantificateurs ∃ ont été éliminés. Ces axiomes sont vrais dans N en

prenant pour g la fonction successeur g(x) = x+1 et pour s le plus petit élément s = 0.

On utilise alors le résultat suivant. On sait que toute formule ϕ de CP peut être mise

sous une forme dite "prénexe" qui la rend équivalente à une formule F´ de la forme Πϕ0 où

Π est une suite de quantificateurs et ϕ0 une formule sans quantificateurs dite "matrice" de

ϕ. Le premier théorème fondamental d'élimination de ε (cf. plus bas) dit que si Σ est un

ensemble de formules prénexes et si ϕ est une formule prénexe, alors si ΣOCPϕ (i.e. si ϕ

est une conséquence de Σ dans CP) on a Σ*OCEϕ1∨…∨ϕn où les formules de Σ* (resp. les

formules ϕi) sont obtenues à partir des matrices des formules de Σ (resp. de la matrice de ϕ)

en y substituant les variables par des termes (y compris par des ε-termes) et où CE est le

calcul élémentaire des prédicats ne faisant plus usage des quantificateurs. Soit alors Σ le

système d'axiomes A1, ..., A'5. Les matrices en sont :

17

A10 ¬(x < x)

A20 (x < y) ∧ (y < z) ⇒ (x < z)

A30 (x < y) ∨ (y < x) ∨ (x = y)

A40 x < g(x)

A50 (s = y) ∨ (s < y))

Pour démontrer syntaxiquement que T est consistante, il suffit donc d'assigner une

interprétation aux symboles et une valeur de vérité aux formules élémentaires du langage

formel considéré qui soient telles que toute substitution dans une de ces matrices donne un

énoncé vrai. Or cela est facile à effectuer de façon finitiste. Comme l'explique Leisenring :

«De façon générale, la méthode formaliste des preuves de consistancepeut être décrite de la façon suivante. Supposons que T soit une théoriebasée sur CP. En remplaçant chaque axiome de T par une forme prénexeéquivalente, en prenant les résolutions de Skolem de ces formulesprénexes et en adjoignant les nouvelles fonctions de Skolem auvocabulaire [du langage formel], on obtient une théorie T´ qui est uneextension inessentielle de T. On essaye alors de trouver une assignationeffective de valeurs de vérités aux formules atomiques de T´ d'une façontelle que chaque axiome E1 et chaque axiome E2 [les axiomes de l'égalitédans CP] et que chaque substitution des matrices des axiomes de T´prennent la valeur 1 [i.e. soient vrais]. Si cela peut être fait alors à la foisT´ et T sont consistantes.»17

C'est de cette façon (et en particulier en définissant explicitement à partir de

l'opérateur ε les fonctions de Skolem) que Hilbert a justifié l'usage de l'infini. Comme le

note encore Leisenring :

«Peut-être que la signification majeure du premier ε-théorème de Hilbertest la suivante. Bien que la logique classique, telle qu'elle est formaliséepar le calcul des prédicats, contient des aspects non-finitistes, toutepreuve d'un énoncé finitiste peut être convertie en une preuve finitiste.»18

Toutefois, comme nous le verrons plus bas, il s'est heurté à une difficulté

irréductible qui n'a été vraiment éclaircie que par Gödel.

17 Ibid., p.87.

18 Ibid., p.88.

18

2. L'interprétation philosophique d'Albert Lautman

Cette stratégie métamathématique a été admirablement décrite sur le plan

épistémologique par Albert Lautman.19 Dans plusieurs textes, ce dernier est revenu sur le

fait que le formalisme hilbertien échappe aussi bien au logicisme russellien qu'aux

contraintes trop drastiques de l'intuitionnisme brouwerien.

Le problème est, nous l'avons vu, que pour les modèles infinis de théories il y a

contradiction entre l'exigence de manipulation finitiste des symboles (des variables)

intervenant dans les formules et le nombre infini de vérifications élémentaires qu'exige la

validation de formules contenant des quantificateurs. D'où l'idée d'introduire

«des champs métamathématiques, intermédiaires entre les signes desformules et les champs mathématiques [les modèles] de leurs valeurseffectives.»20

A la suite de Hilbert, Herbrand cherche à ramener tout énoncé à un énoncé sans

quantificateurs dont la valeur de vérité soit vérifiable en un nombre fini d'étapes. Pour cela

«il lui a fallu trouver une manière de définir, pour une variablesusceptible de prendre une infinité de valeurs mathématiques, un nombrefini de valeurs métamathématiques, qui symbolisent ainsi l'existence decette infinité si difficile à manier.»21

C'est là que les procédures de type opérateur ε deviennent essentielles. Si elles permettent

d'élaborer des preuves constructives (syntaxiques et effectives) qui échappent cependant

aux contraintes trop strictes des constructivismes intuitionnistes, c'est parce qu'elles

imposent les contraintes de finitude aux entités métamathématiques et non pas directement

aux entités des modèles considérés. Ces entités métamathématiques que sont les ε-termes,

les fonctions de Skolem, etc. sont, selon Lautman, des "mixtes" intermédiaires entre les

symboles et les référents dénotés par ces symboles, c'est-à-dire entre syntaxe et sémantique.

«Les éléments de ces champs [métamathématiques] sont donc en étroitecorrespondance avec les signes des variables des formules; ils constituentplutôt un système de nouveaux signes que l'on substitue aux premiersqu'un ensemble de véritables valeurs pour les variables désignées par cessignes. D'un autre côté, ils n'en possèdent pas moins une nature dechamps indépendants de la formule qu'ils réalisent, et présentent bien

19 Pour une introduction à la philosophie mathématique de Lautman, cf. Petitot [1987] et [2001].

20 Lautman [1937], p. 108.

21 Ibid.

19

ainsi un premier aspect de mixtes en tant qu'ils sont intermédiaires entreles signes formels et leurs valeurs mathématiques effectives. (...)Intermédiaires entre les signes et leurs valeurs, ces champs sont, d'unepart homogènes à la discontinuité finie des signes puisqu'à un signe devariable (∃x) ne correspond qu'une valeur a [a est ici l'ε-terme εF associéà la formule F(x) que ∃x quantifie] et, d'autre part ils symbolisent uneinfinité de valeurs mathématiques puisque la lettre a représente n'importequelle valeur mathématique éventuelle de la variable x lorsqu'elleintervient sous la forme particulière (∃x). Une médiation s'opère donc parces champs du fini à l'infini, qui permet (...) de dominer l'infini.»22

Dans son dernier essai, Considérations sur la logique mathématique, Lautman est

revenu sur ce point décisif.

«Il est impossible d'opérer tous les calculs impliqués par une théorie [àmodèle infini], car ils sont évidemment en nombre infini et lesintuitionnistes ont raison de dire qu'on ne serait jamais certain enprocédant ainsi de ne pas trouver de contradiction. Mais il est possible deremplacer, en ce qui concerne l'étude de la valeur logique, laconsidération d'une infinité de valeurs particulières par une lettre ou unefonction "de choix" tels que les résultats obtenus dans le champ fini deces valeurs de choix aient des conséquences valables transfiniment pourtous les êtres mathématiques particuliers dont les valeurs sontsymbolisées par cette valeur de choix. (...) Entre les exigences deconstruction des intuitionnistes et la pure introduction de notions paraxiomes, les hilbertiens ont su interpréter un schématisme intermédiaire,celui d'individu et de champs considérés non tant pour eux-mêmes quepour les conséquences infinies que permettent les calculs finis opérésgrâce à eux.»23

3. ε-calculus et objets idéaux

Avant de préciser tous ces points, faisons une remarque générale. L'ε-calcul

hilbertien est un calcul des prédicats où l'univers des objets est élargi par l'adjonctiond'objets idéaux génériques. Dans CPε ces objets sont canoniquement associés aux formules,

mais l'on peut, de façon plus générale, envisager d'autres types d'adjonction. Sur ce point,

on pourra consulter par exemple, les travaux de Kit Fine.24 Kit Fine insiste en particulier

sur les faits suivants.

22 Ibid., p.109.

23 Ibid., pp.313-314.

24 Cf. Fine [1985]. Un excellent exposé de ces questions se trouve aussi dans Nef [1998].

20

(i) Une interprétation en terme d'objets génériques permet immédiatement de trouver

les restrictions qui doivent être apportées, dans les divers systèmes logiques, aux règles

d'instanciation (I) et de généralisation (G) respectivement universelle (U) et existentielle

(E) :

IU∀xF(x)

F(a)GU

F(a)∀xF(x)

IE∃xF(x)

F(a)GE

F(a)∃xF(x)

Les règles IU et GE étant évidentes, ce sont évidemment les règles GU et IE qui font

problème. Par exemple, comme nous l'avons déjà noté plus haut, à cause de l'existence de

modèles non standard, on peut parfaitement pouvoir démontrer pour chaque a l'énoncé F(a)

sans pouvoir pour autant démontrer l'universelle ∀x F(x) (cf. Petitot [1995] pour l'exemple

de la version finitiste du théorème de Kruskal).

Par exemple, dans le système Q proposé par Quine on a les restrictions suivantes :

R1 : le symbole d'objet (générique) a n'intervient pas dans F(x) dans les règles GU et IE.

Dans une application de GU ou de IE, soient b, c, etc. les constantes de F et soit a (a ≠ b, c,

etc.) une instanciation de x. On dira que a, terme instancié, dépend immédiatement des

termes donnés b, c, etc.

R2 : un symbole a d'objet générique ne peut pas être instancié deux fois.

R3 : on peut ordonner les termes instanciés dans une démonstration dans un ordre a1, ...,

an tel que pour tout i aucun des ai+1, ..., an ne dépende immédiatement de ai.

Ces restrictions sont naturelles si l'on interprète dans Q, le a de IE comme un

représentant typique et générique de XF (i.e. comme εF, IE devenant l'équivalence (∃) de

CPε) et le a de GU comme un "contre-exemple" générique de F (i.e. comme τF=ε¬F, GU

devenant l'équivalence (∀) de CPε).

(ii) Ces interprétations en termes de sémantique de la généricité permettent de

comprendre les différences importantes qui existent dans les divers systèmes logiques entre

les restrictions apportées aux règles ci-dessus. Par exemple une autre interprétation de GU

consiste à poser que a est l'objet générique de tout l'univers d'objet considéré (par exemplea = εx(x = x)). Cela est très différent de l'interprétation quinienne de a comme τF = ε¬F.

(iii) Les objets génériques permettent de donner un sens plus clair aux fonctions de

Skolem. Par exemple, une instanciation de IE ∃xF(x,b)

F(a,b) sera représentée par

∃xF(x,b)F( f (b),b)

où

f est la fonction de Skolem associée. On sait que les avis divergent sur l'interprétation de f.

Est-ce une fonction définie (f étant alors un symbole de constante) ou indéfinie? Qu'elle soit

21

indéfinie est contraire à l'intuition. Mais en général, elle ne peut pas être explicitement

définie. Elle le devient toutefois si sa valeur f(b) est considérée comme un terme générique.

(iv) Enfin, et c'est un point décisif, la pensée et le raisonnement naturels reposent sur

l'usage d'objets génériques. La logique naturelle est une logique catégorique de la

généricité et non pas une logique ensembliste extensionnelle. Comme l'affirme Kit Fine

"le principal avantage de la sémantique générique est qu'elle fournit unereprésentaiton fidèle du raisonnement ordinaire."25

IV. L'ε-CALCULUS

1. Principes du calcul

Donnons maintenant quelques précisions un peu plus techniques sur les sources et

les développements logico-mathématiques de l'idée hilbertienne.

L'affaire remonte à Russell et à son opérateur ι formalisant la notion de description

définie. Considérons une description définie, autrement dit une formule F(x) qui caractérise

un individu parce qu'elle satisfait aux deux conditions d'existence et d'unicité :

(E) ∃x F(x)

(U) ∀x∀y (F(x)∧F(y) ⇒ x = y).

Russell introduit alors la notation ιxF(x) (= ιF) pour symboliser l'individu caractérisé par F

et élargit CP en lui adjoignant la règle :

(Rι) : sous les conditions (E) et (U) on peut introduire dans une démonstration l'individu

ιF et inférer F(ιF).

L'opérateur ι ne pose pas de problème d'interprétation. Il formalise l'article défini.

Et comme #XF = 1, l'article défini (le a ∈ XF), l'article indéfini (un a ∈ XF quelconque) et le

démonstratif (celui qui satisfait F) coïncident. De par sa structure c'est bien un symbole-

index, mais, puisque #XF = 1, sa dénotation ne comporte aucune ambiguïté.

Lorsque son emploi est licite, l'opérateur ι permet immédiatement d'effectuer les

procédures de résolution symbolique par introduction de fonctions de Skolem (élimination

25 Fine [1985].

22

des quantificateurs, cf. plus haut). Soit par exemple un axiome A de la forme

A ≡ ∀x∃y B(x,y) et supposons que dans le système considéré l'on puisse dériver la propriétéd'unicité : ∀x∀y∀z (B(x,y)∧B(x,z) ⇒ y = z). Par application de (Rι) on peut introduire

ιyB(x,y) quel que soit x et, par introduction d'un symbole de fonction g, poser g(x)=ιyB(x,y).

On aura alors, comme plus haut, A ≡ ∀x B(x,g(x)), la fonction de Skolem g étant ici

explicitement définie.

La première généralisation effectuée par Hilbert a consisté à s'affranchir de

l'hypothèse d'unicité (U). Sous la seule condition d'existence (E), Hilbert introduit un

symbole η et un η-terme ηxF(x) dont l'introduction est régie par la règle :

(Rη) : sous la condition (E) on peut introduire dans une démonstration l'individu ηF et

inférer F(ηF).

Avec les η-termes s'introduisent dans CP, selon le dire même de Hilbert, des éléments

idéaux (des idées in individuo) canoniquement associés à des formules. L'opérateur η

formalise en particulier l'article indéfini. Sa dénotation consiste en un élément, au

demeurant quelconque, de XF (non vide par hypothèse). ηF est déjà un "vrai" symbole-

index avec la triple interprétation : article indéfini, article défini non anaphorique

(interprétation comme objet générique, i.e. de dicto), démonstratif ("celui qui satisfait F":

interprétation de re). Hilbert a privilégié cette troisième interprétation en considérant qu'un

η-terme ηF était un opérateur de choix.

Hilbert a alors subtilement remarqué que, indépendamment de toute condition

d'existence et d'unicité, l'énoncé : ∃x (∃y F(y) ⇒ F(x)) est toujours dérivable. On peut donc

toujours introduire l'η-terme εxF(x) (correspondant à la règle IE) :

(*) εxF(x) ≡ ηx(∃y F(y) ⇒ F(x)).

Si la condition d'existence (E) est satisfaite, alors εF = ηF. Si de plus, la condition

d'unicité (U) est satisfaite, alors εF = ηF = ιF. L'opérateur ε est donc bien une généralisation

des descriptions définies russelliennes. Mais les ε-termes sont des individus idéaux qui

involuent dans leur symbole même la question de leur existence. C'est ce "tour"

éminemment métaphysique qui, selon nous, donne à l'opérateur de Hilbert sa portée

philosophique.

εF est par définition un η-terme ηxG(x) avec G(x) ≡ ∃y F(y) ⇒ F(x). D'après la

règle (Rη) on peut donc toujours dériver l'énoncé G(ηG), soit ∃y F(y) ⇒ F(εF). Comme il

est clair que, si F(εF) est vrai alors, par généralisation existentielle GE, on a ∃y F(y), on a

23

bien en définitive l'équivalence logique :

(∃) ∃y F(y) ⇔ F(εF).

C'est ce constat qui a conduit Hilbert à inverser la démarche, à introduire d'emblée

l'opérateur ε comme une primitive du calcul logique et, comme nous l'avons vu, à définir la

quantification existentielle par (∃). Il a ainsi obtenu sa variante CPε du calcul des prédicats.

CPε contient un axiome spécifique remplaçant la règle GE d'introduction du quantificateur

∃ dans CP : de F(a) (où a n'apparaît pas dans F) on peut inférer ∃x F(x). Cet axiome est l'ε-

formula évoquée plus haut :

(ε) F(a) ⇒ F(εF).

On lui adjoint éventuellement l'axiome d'égalité, dû à Ackermann :

(ε2) ∀x (F(x) ⇔ G(x)) ⇒ εF = εG.

Il est essentiel de noter que ce dernier axiome formule un principe d'extensionalité qui est

très loin d'être évident. Son évidence dépend de l'interprétation de ε. Il signifie que si F et G

sont extensionnellement équivalentes, i.e. si au niveau de leurs extensions XF = XG, alors

εF = εG. Cela n'est déjà pas évident dans l'interprétation générique de dicto car comme les

sens de F et de G sont en général différents on ne voit pas pourquoi les éléments génériques

satisfaisant typiquement F et G devraient être identiques. On devrait même poser plutôt

εF ≠ εG de façon à rendre compte de la différence de sens (Sinn) de F et de G même si leur

dénotations (Bedeutung) sont équivalentes. Cela est encore moins évident dans

l'interprétation spécifique de re. On ne voit pas pourquoi en effet, les objets sélectionnés

par εF et εG devraient nécessairement être identiques. L'intérêt principal des ε-termes est

d'être des entités intensionnelles et même plus précisément, nous l'avons vu plus haut, des

objets intensionnellement décomplétés. L'axiome d'Ackermann en refait subrepticement des

entités extensionnelles. Nous reviendrons en conclusion sur ce point crucial.

Nous retrouvons ainsi les problèmes d'interprétation sémantique de l'opérateur ε.

Jusqu'à une date relativement récente, on n'a pas tenu compte de sa nature intensionnelle et

on l'a essentiellement interprété, nous l'avons vu, en termes de fonctions de choix. Soit U

l'univers du discours (le modèle) considéré. On introduit une fonction de choix universelle

Φ qui associe à chaque ensemble X ≠ Ø de U un élément Φ(X) qui appartient à X. Si F(x)

est un prédicat d'extension XF ≠ Ø, on pose a priori que εF dénote Φ(XF). Mais alors

24

comment définir Φ(Ø). Selon Asser et Hermès, il faut poser Φ(Ø)=Φ(U).26 Revenons en

effet à la définition de ε à partir de η :

(*) εxF(x) ≡ ηx(∃y F(y) ⇒ F(x)) ≡ ηxG(x).

Si F est d'extension vide (XF = Ø), alors pour tout x l'implication ∃y F(y) ⇒ F(x) est

vérifiée puisque ∃y F(y) est faux. Donc εxF(x) = ηxG(x) avec XG = U. Il est par conséquent

"naturel" de poser Φ(Ø) = Φ(U). En particulier, on est ainsi conduit à identifier entre eux

tous les termes-zéro, par exemple à "l'objet impossible" εx(x ≠ x) et à les identifier tous à

"l'objet en général" εx(x = x).

On voit à quel point dans le calcul hilbertien la consistance logique devient

compatible avec l'inconsistance ontologique. Il suffit de songer au fait que, chez Frege, le

concept d'un objet différent de lui-même ("l'objet impossible") est identifié à 0, et que le

concept d'un objet identique à lui-même ("l'objet en général") est identifié à 1. DansCP ε on rencontre ainsi une sorte de 0 = 1 conceptuel qui ne comporte aucune contradiction

logique (ce qui montre d'ailleurs de façon spectaculaire les limites de la conception

fregéenne du concept).

Quoi qu'il en soit, muni des deux axiomes (ε) et (ε2) et de cette interprétation, l'ε-calcul CPε est, comme CP, adéquat et complet, autrement dit ΣOCPεϕ si et seulement si

Σoϕ (i.e. ssi ϕ est valide dans tout modèle de Σ).

Venons-en donc maintenant aux théorèmes fondamentaux qui légitiment l'emploi de

l'opérateur de Hilbert. Nous avons déjà énoncé plus haut le premier ε-théorème. Il dit

essentiellement que s'il existe une démonstration ΣOCPϕ dans CP ou CPε d'une formule ϕ

de CE à partir d'axiomes Σ de CE, alors il en existe une dérivation dans CE. Il est

évidemment essentiel à la stratégie finitiste hilbertienne car il permet de ramener des

démonstrations de consistance à des procédures finitistes de vérification. Supposons en

effet, comme plus haut, que les substitutions des matrices des axiomes d'une théorie T

soient vérifiées (valides) dans une certaine interprétation du langage L de T et une certaine

assignation de valeurs de vérités aux formules élémentaires de L. Alors tous les énoncés de

CE qui en sont dérivables dans CP ou CPε sont valides puisqu'ils sont dérivables en fait

dans CE et que, clairement, les inférences dans CE préservent la validité.

Quant au deuxième ε-théorème, il affirme essentiellement que, bien qu'apparemment

plus puissant que CP, CPε est en fait — en logique classique — une extension inessentielle

(conservative) de CP : soit Σ un ensemble de formules de CP et ϕ une formule sans

26 Cf. Asser [1957].

25

symbole ε. Si ΣOCPεϕ alors ΣOCPϕ .

Les deux ε-théorèmes permettent de simplifier considérablement (sans toutefois

réaliser le "rêve" de Hilbert) les démonstrations syntaxiques de consistance. En effet, ils

impliquent que, lorsque l'on passe d'un système d'axiomes Σ au système Σ′ obtenu comme

plus haut par résolution symbolique et élimination des quantificateurs, on obtient en fait

une extension inessentielle. Soit en effet ϕ une formule sans symbole ε dérivable de Σ′ dansCPε : ′Σ OCPε

ϕ . Comme Σ ΣOCPε′ , on a ΣOCPε

ϕ . Mais comme Σ appartient à CP, on a

d'après le deuxième ε-théorème ΣOCPϕ . Or, d'après le premier ε -théorème, la

démonstration de la consistance de Σ′ peut partiellement se ramener à une démonstration

dans CE.

Il existe une preuve sémantique non constructive triviale du deuxième ε-théorème.Soit en effet ΣOCPε

ϕ . Il est facile de montrer que l'ε-calculus CPε est "sain" ou "adéquat",

i.e. que la dérivation y conserve la validité. Donc Σoϕ . Mais le calcul des prédicats CP

étant complet, on a ΣOCPϕ .

Mais si l'on veut obtenir une preuve syntaxique, on se heurte à la difficulté suivante.CPε s'obtient à partir de CP en lui adjoignant les schémas d'axiomes (ε) et (ε2). Or, si l'on

substitue dans ces axiomes les ε-termes par des symboles de constantes, les formules

obtenues ne sont plus des axiomes en général. Considérons par exemple une occurrence duschéma d'égalité extensionnel d'Ackermann (ε2) et remplaçons-y εG par a. La formule

∀x (F(x) ⇔ G(x)) ⇒ εF = a

est trivialement fausse en général. Il s'agit-là, en quelque sorte, d'une "revanche de la

référence". Un phénomène analogue peut se produire pour une tautologie comprenant des

ε-termes. Considérons par exemple la tautologie ¬∃x F(x) ⇒ ¬F(t) (où t est un terme

quelconque) et son occurrence pour F(x) ≡ (x = εy(y = x)). On obtient :

¬∃x (x = εy(y = x)) ⇒ ¬(t = a) ⇔ t ≠ a

qui est fausse en général. C'est ce phénomène, dit d'impropreté, qui rend le deuxième ε-

théorème non trivial.Cependant soit CPε* l'ε-calcul restreint aux formules propres. Il est alors facile d'y

démontrer syntaxiquement le deuxième ε-théorème.27 Soit en effet ϕ une formule sans

symbole ε dérivable dans CPε*. Soit ∆ une démonstration de ϕ et n le nombre d'ε-termes

27 Cf. par exemple Leisenring [1969].

26

intervenant dans ∆. On raisonne par récurrence. Soit εyB(y) dans ∆, B étant sans ε-termes.

Soit a un symbole de constante n'intervenant ni dans B ni dans ϕ . Soit ∆′ la séquence

obtenue par la substitution εyB(y) → a. Si ∃y B(y) ⇒ B(εyB) n'appartient pas à ∆, alors ∆′

est une preuve de ϕ dans CPε* et l'on conclut par récurrence. Si au contraire

∃y B(y) ⇒ B(εyB) appartient à ∆, alors ∆′ est une preuve de ϕ dans CPε* à partir de

∃y B ⇒ B(a). On a donc dans CPε* une preuve ∆′′ de la formule

(1) (∃y B(y) ⇒ B(a)) ⇒ ϕ

qui est sans symbole ε par hypothèse. Par hypothèse de récurrence, (1) est dérivable dans

CP. Mais B(a) ⇒ ϕ est une conséquence de (1) dans CP. On a donc OCPB a( ) ⇒ ϕ et par

conséquent OCP∃ ⇒yB y( ) ϕ . Mais ϕ est une conséquence dans CP de (1) et de∃y B(y) ⇒ ϕ. Donc OCPϕ. On généralise facilement au cas ΣOCPε

*ϕ .

2. Le rapport à la théorie des ensembles

Le fait que CPε soit en logique classique une extension inessentielle de CP est dû au

fait que l'on ne considère que des axiomes sans symbole ε. Si l'on se permet d'introduire des

ε-termes dans les axiomes des théories, alors on peut obtenir des extensions effectives. Tel

est le cas par exemple de la théorie des ensembles où l'axiome du choix devient dérivable.Cet axiome dit que si X = {Xα}α∈I est une famille d'ensemble non vides Xα indexés par un

ensemble I, il existe un ensemble Y comprenant exactement un élément de Xα pour chaque

α.

Considérons alors la collection C = {εz(z ∈ Xα )} des ε-termes canoniquement

associés aux Xα. D'après l'axiome de compréhension disant que pour tout ensemble Z et

toute propriété P définie sur Z, il existe un ensemble V constitué des éléments de Z

satisfaisant P, la collection C est un ensemble. Il suffit en effet de prendre pour Z l'unionZ = Xα

α∈IU

(qui est un ensemble d'après l'axiome de réunion de la théorie des ensembles) et pour P la

propriété P définie parP(x) ≡ ∃α α ∈ I ∧ x = εz z ∈ Xα( )( ).

C étant un ensemble, on peut le prendre pour ensemble Y.

L'opérateur ε peut rendre beaucoup d'autres services en théorie des ensembles.28 Par

exemple, comme y a insisté Carnap, il permet très facilement de définir le concept de

28 Cf. par exemple Leisenring [1969].

27

cardinal car celui-ci possède exactement son degré de généralité. Soit x ~ y la relation

d'équipotence entre ensembles et #x le cardinal de x. Par définition des cardinaux comme

classes d'équivalence pour l'équipotence, on veut que la formule : ∀x∀y (x ~ y ⇔ #x = #y)soit valide. La définition la plus simple consiste à prendre : #x ≡ εy(y ~ x). Cette procédure

est d'ailleurs valable pour toute relation d'équivalence. Elle permet de sélectionner

systématiquement des représentants dans les classes d'équivalence, ce qui, ainsi que l'ont

souligné Beth et Carnap est fondamental pour comprendre les définitions par abstraction.

Mais l'opérateur ε peut rendre des services plus subtils, par exemple pour

comprendre ce qu'est une formule collectivisante. Soit B(x) une formule. On dit qu'elle est

collectivisante si les éléments qui y satisfont forment un ensemble XB, autrement dit si la

formule ∃X∀x ((x ∈ X) ⇔ B(x)) — qui est de la forme ∃X F(X) — est dérivable. Mais l'on

peut, indépendamment de toute démonstration d'existence, introduire le concept de XB en

posant

XB = εX F(X) = εX(∀x ((x ∈ X) ⇔ B(x))).

Dire que B est collectivisante revient alors à affirmer le schéma de Church :

∀x ((x ∈ XB) ⇔ B(x )) qui n'est qu'un exemple d'ε -formula du 2è m e ordre

∃X F(X) ⇔ F(εF) ⇔ F(XB).

V. L'ε-CALCULUS ET LA CONSISTANCE DE L'ARITHMETIQUE

Toute la "machinerie" de l'ε-calcul a été mise en place par Hilbert pour pouvoir

transformer des preuves arithmétiques quelconques (non finitistes) en preuves finitistes

purement combinatoires. Son idée de base était d'utiliser le calcul CPε à la place du calcul

des prédicats classique CP puis d'éliminer ensuite des preuves, au moyen d'une méthode de

substitution numérique, les "formules critiques" instantiant l'ε-formula (ε) F(t) ⇒ F(εF).

Soit P une preuve et E l'ensemble (fini) des formules critiques (ε) intervenant dans

P. On effectue des substitutions S en remplaçant les ε-termes saturés par des valeurs

numériques. Si toutes les formules critiques deviennent vraies sous S on dit que S résout P.

L'idée est alors de trouver une S résolvante par approximations successives en partant de S0

qui remplace tous les ε-termes par 0 puis en corrigeant pas à pas les valeurs numériques

attribuées. Tout le problème est de montrer qu'un tel processus se termine.

La principale difficulté est de savoir comment attribuer des valeurs numériques à

des ε-termes enchâssés. Supposons que P utilise une formule critique simple B(y) ⇒ B(εB)

et également une formule critique complexe A(x, εB) ⇒ A(εA, εB) où εA = εxA(x, εB). εB doit

28

être évalué avant εA. Mais si l'on doit utiliser aussi la formule critique B(εA) ⇒ B(εB) alors

on rencontre un problème. En effet supposons que B(0) soit faux et commençons par

évaluer εB = 0. Si l'on change ensuite l'évaluation de εxA(x, 0) de 0 à n, on aura, d'après la

formule B(εA) ⇒ B(εB), la formule B(n) ⇒ B(0) qui est fausse si B(n) est vraie (puisque

B(0) est faux par hypothèse). Il faudra donc évaluer εB = n. Mais alors c'est εxA(x, n) qui ne

sera plus forcément vraie.

Les ε-termes du deuxième ordre introduisent des difficultés encore plus

insurmontables. Par exemple considérons l'ε-axiome du deuxième ordre

Aa(F(a)) ⇒ Aa(εFAb(F(b))(a))

où la notation Aa signifie que a n'est pas une variable libre dans A et n'intervient qu'à travers

l'argument fonctionnel F. Dans la mesure où εFAb(F(b)) est la fonction définie par A, cet

axiome est l'analogue d'un axiome de compréhension. L'introduction des ε-termes du

deuxième ordre conduit donc à restreindre les axiomes de compréhension dans le système

d'Ackermann, ce qui rend ce dernier prédicatif comme l'a remarqué von Neumann en 1927

(cf. Zach, 2002).

Mais, quoi qu'il en soit, la consistance de l'arithmétique du premier ordre puis de

l'arithmétique primitive récursive du second ordre ont été démontrées par Ackermann dans

sa grande thèse de 1924 Begründung des 'tertium non datur' mittels der Hilbertschen

Theorie des Widerspruchsfreiheit, puis clarifié ensuite en 1940 à la suite de la preuve de

Gentzen de 1936, Ackermann montrant qu'une induction transfinie jusqu'à l'ordinal ωω ω

est nécessaire (cf. les travaux de Grigori Mints et le survey de Richard Zach (2002)).

Il s'agissait donc d'abord de démontrer de façon finitiste la consistance de

l'arithmétique formelle, c'est-à-dire du système d'axiomes N constitué :

(i) du système N 0 axiomatisant à la Peano la structure d'ordre et la structure algébrique

(+, .) de N et

(ii) du schéma d'induction :

(I) A(0) ⇒ (∀x (A(x) ⇒ A(x+1)) ⇒ ∀x A(x)) ou si l'on préfère

(A(0) ∧ ∀x (A(x) ⇒ A(x+1)) ⇒ ∀x A(x))

où A(x) est une formule quelconque. Il existe une preuve finitiste de la consistance de N 0

et c'est donc le schéma (I) du raisonnement par récurrence qui fait problème.

Hilbert utilise un ε-calcul où l'opérateur ε s'interprète comme un opérateur de

minimum. Si F(x) est un prédicat sur N tel que XF ≠ Ø alors εF dénote le plus petit élément

29

de XF (et si XF = Ø alors εF = 0). Cette interprétation est la seule qui satisfasse le schéma

d'axiomes :

F(a) ⇒ εF ≤ a.

Pour démontrer la consistance de N il faut et il suffit de démontrer que tout énoncé

élémentaire (i.e. sans quantificateurs et sans symbole ε) qui est un CPε théorème de N

devient numériquement vrai une fois interprété dans N. Le problème posé par le schéma

d'axiomes (I) est que les axiomes n'y sont pas sous forme prénexe et que leur résolution de

Skolem conduit à ajouter au système N�´ que l'on voudrait substituer à N toutes les

fonctions de Skolem, ce qui complique énormément les choses. Dans leurs Grundlagen,Hilbert et Bernays définissent alors le système d'axiomes N ε obtenu à partir des axiomes

de N 0 (qui sont tous du type ∀x A(x) ou ∀x∀y B(x,y)) en prenant leurs matrices et en y

substituant les variables libres x et y par des symboles de constantes s et t et en ajoutant les

schémas d'axiomes :

(E1) ¬A(εA)⇒¬A(t)

(E2) εA = t+1⇒¬A(t).

Ils démontrent alors que l'on peut substituer N ε à N et que l'induction est démontrable

dans N ε.

Théorème (preuve de l'induction). Soit B une formule inductive :

B ≡ A(0) ⇒ (∀x (A(x) ⇒ A(x+1)) ⇒ ∀x A(x)).Alors NεOCPε

B. Qui plus est, si B est propre, autrement dit si x ne possède pas dans A(x)

d'occurrence libre qui soit dans la portée d'un ε-symbole, alors NεOCPε* B.

Preuve.29 Notons s l'ε -terme ε¬ A . Soit Σ le système d'axiomes :Σ = N ε∪{A(0),

∀x (A(x) ⇒ A(x+1))}. Comme ∀x A(x) ⇔ A(ε¬A), on veut en fait montrer que l'on aΣOCPε

A s( ).

Posons t = g(s) =0 si s = 0

s -1 si s ≥ 1

.

29 Nous donnons ici cette preuve (élémentaire) pour que le lecteur non mathématicien puisse avoir une toute

petite idée des techniques hilbertiennes.

30

On a la démonstration dans CPε :

(1) Σ O (s = 0)∨(s = t+1) (par définition de t);

(2) Σ O A(0) (par définition de Σ);

(3) Σ O ((s = 0) ∧ A(0)) ⇒ A(s) (trivial);

(4) Σ O (s = 0) ⇒ A(s) (d'après (3) et (2));

Donc si s = 0, on a bien Σ O A(s).

Si en revanche s ≥ 1, on a :

(5) Σ O ∀x (A(x) ⇒ A(x+1)) (par définition de Σ);

(6) Σ O A(t) ⇒ A(t+1) (d'après (5));

(7) Σ O (s = t+1) ∧ A(t+1) ⇒ A(s) (trivial);

Mais s = ε¬A par définition et s = t+1 par hypothèse (car s ≥ 1). Donc d'après l'axiome (E2)

appliqué à ¬A, on a :

(8) Σ O (s = t+1) ⇒ ¬¬A(t);

donc par (8), ¬¬A(t) = A(t), (6) et (7) :

(9) Σ O (s = t+1) ⇒ A(s);

donc par (1), (4) et (9) :

(10) Σ O A(s).

Ce théorème montre que N ε est une extension inessentielle de N. On utilise ensuite

les ε-théorèmes pour montrer que si B est un théorème élémentaire de N alors il en existe

une preuve dans CE. Il ne reste donc plus qu'à démontrer la

Conjecture. Si B est une formule élémentaire démontrable dans CE, alors B est

numériquement vraie.

C'est cette conjecture que Hilbert, Bernays et Ackermann n'ont pu démontrer et cela parce

qu'en fait elle est invalidée par le théorème d'incomplétude de Gödel.

Toutefois, Hilbert et Bernays ont abouti à un résultat partiel. On appelle

arithmétique restreinte, la théorie N r où l'application du schéma d'induction (I) est

restreinte aux formules propres. L'élimination de l'impropreté permet de démontrer la

conjecture et de fournir une preuve finitiste de la consistance de N r.

VI. LA NATURE INTENSIONNELLE DES ε-TERMES

Nous avons déjà signalé plusieurs fois la nature intensionnelle des ε-termes et leur

double interprétation de dicto et de re. Elle provient de leur structure de symbole-index.

Rappelons que les symboles-index (au sens de Peirce, ou encore les "expressions

31

indexicales" au sens de Bar-Hillel) correspondent dans la classification de Jakobson aux

unités linguistiques pour lesquelles et par lesquelles le code renvoie au message. Se situant

à la charnière du sens et de la dénotation (du Sinn et de la Bedeutung), ils sont à l'origine

des contextes obliques (aussi dits "opaques"). Les exemples linguistiques standard en sont

les démonstratifs (celui-ci, etc.), les déictiques (ici, maintenant, etc.), et les shifters (je, tu,

etc.). Ils sont de nature pragmatique, font intervenir l'instance de l'énonciation et leur

dénotation n'est définissable que relativement au contexte. Qui plus est, comme le notait

Emile Benvéniste, ce sont des formes linguistiques qui, contrairement aux termes

nominaux, ne réfèrent qu'à des individus. Ils ne sont pas abstraits mais concrets et

intensionnellement décomplétés.

En général cette essence pragmatique n'est pas véritablement analysée comme telle,

même chez des linguistes comme Morris car elle reste réduite à la dimension empirique du

rapport qu'un énoncé entretient avec la situation énonciative. Ce n'est que relativement

récemment que certains linguistes en sont venus à la considérer comme linguistiquement

primitive. :

«On conçoit mal un modèle général traitant des langues naturelles où, cequi apparaît comme essentiellement langagier et général, serait traité dansla composante pragmatique ajustant les composantes syntaxiques etsémantiques aux données empiriques et aux concepts "intuitifs", lapragmatique étant ajoutée pour "rendre compte" des quelquesphénomènes déclarés être auxiliaires, alors qu'ils semblent présents danstoutes les langues et sont, selon nous, beaucoup plus primitifs que laplupart des autres phénomènes et peut-être même au sens de l'activité delangage.»30

La logique hilbertienne est une logique pragmatique de la généricité qui conduit à

associer à tout concept une entité intensionnelle idéale structurée comme un symbole-index.

Ce lien entre indexicalité et typicalité lui confère une grande portée sémio-linguistique et

philosophique. Une interprétation adéquate des ε-termes doit la faire intervenir d'une façon

ou d'une autre, par exemple en faisant que la dénotation a de εF soit relative à un contexte

de sélection. Von Heusinger et Wilfrid Meyer Viol ont beaucoup insisté sur ce point ces

dernières années.

30 Tel est le cas par exemple de Jean-Pierre Desclés [1990]. Il a consacré de nombreuses études à la

formalisation des structures de l'énonciation. Ses recherches sur la cognition l'ont d'ailleurs conduit à remettre

en chantier le formalisme hilbertien dans un cadre de pensée original.

32

Mais il y a déjà longtemps que Melvin Fitting 31 a montré comment on pouvait

développer une interprétation intensionnelle des ε-termes dans le cadre d'une logique

kripkéenne des mondes possibles. On introduit un ensemble M de "mondes possibles Mi où

un monde se trouve distingué comme "monde réel" M0. On se donne en plus sur M unerelation R d'accessibilité (réflexive) M1RM2. On se donne enfin des assignations VMi

(p)

assignant à toute proposition p une valeur de vérité dans Mi. Si VMi(p) est vraie, on note

oMi p.

Lorsque l'on passe au calcul des prédicats CP, on peut alors naturellement étendre

ce genre de sémantique modale. On se donne d'abord des assignations cohérentes de

valeurs de vérité pour les propositions, la cohérence signifiant (pour R transitive par

exemple) que : (i) oM p∧q ssi oM p et oM q,

(ii) oM p⇒q ssi pour tout M´ tel que MRM´ on a non oM´ p ou oM´ q,

(iii) oM ¬p ssi pour tout M´ tel que MRM´ on a non oM´ p, etc.On dit alors qu'une proposition complexe ϕ est valide si oM0

ϕ pour toute assignation

cohérente.

Pour pouvoir passer à des formules contenant des constantes et des variables, on

suppose que chaque "monde" possède un domaine de constantes D(M) ≠ Ø tel que si

MRM´ alors D(M) ⊆ D(M´). Si F(x1, ..., xn) est un prédicat n-aire on lui associe dans

chaque monde M un sous-ensemble VM(F) de D(M)n avec la condition que si MRM´ alorsVM(F) ⊆ VM´(F). Soit

U

M

=∈

D MM

( )U l'univers des constantes et soit ϕ une formule

contenant les variables x1, ..., xn. Considérons une assignation dans U, a 1, ..., an, des

valeurs de ces variables. On pose oM ϕ ssi les constantes de ϕ appartiennent à D(M) et

(a1, ..., an)∈VM(ϕ). D'où les définitions évidentes :

(i) oM ∃y ϕ(x,y) pour une assignation x → a ssi il existe b ∈ D(M) tel que oM ϕ(a,b),

(ii) oM ∀y ϕ(x,y) pour une assignation x → a ssi pour tout M´ tel que MRM´ et pour

toute assignation y → b ∈ D(M´), on a oM´ ϕ(a,b).

Dans un cadre de ce genre l'on peut alors, de façon naturelle, développer une

interprétation intensionnelle de l'opérateur ε, par exemple pour le système modal S4.32 Les

difficultés liées aux interprétations non intensionnelles des ε-termes deviennent criantes

dans une sémantique modale à la Kripke. En effet, si F(x) est un prédicat (unaire), εF est un

symbole d'individu. Mais dans un modèle kripkéen de S4 l'existentielle ∃x F(x) peut être

31 Fitting [1970].

32 Cf. Fitting [1970].

33

valide dans deux mondes possibles sans qu'il n'existe pourtant aucune constante c

satisfaisant F(c) dans les deux mondes. Il faut donc traiter εF comme une fonction sur les

mondes possibles telle que si oM ∃x F(x) alors la valeur de εF dans M est une constante c

telle que oM F(c). Les ε-termes ne sont donc ni des variables, ni des constantes mais des

entités relatives aux mondes ("world-dependent") dont la dénotation varie avec les mondes.

Leur caractère "mixte" qui avait été admirablement dégagé par Lautman (cf. plus haut) est

bien un caractère intensionnel.Fitting montre en fait qu'il existe une fonction fF telle que :

(i) le domaine dom(fF) de fF est l'ensemble des mondes M ∈ M sur lesquels F est

définie (i.e. tels que les constantes de F appartienent à D(M));(ii) si M ∈ dom(fF) alors fF(M) ∈ M;

(iii) si oM ∃x F(x) alors oM F(x | fF(M)).

Autrement dit, fF est une fonction de choix qui, pour chaque monde M sur lequel F est

définie et où ∃x F(x) est valide, sélectionne le référent de εF.

Ce qui est particulièrement intéressant dans cette construction est qu’elle mime

logiquement de nombreux aspects sémiotiques classiquement opposés à la sémantique

vériconditionnelle classique.(i) εF est un symbole d’individu mais possède une structure interne et une signification

dans la mesure où il est canoniquement associé à F.

(ii) Il ne dénote pas à travers un renvoi symbolique. Il sélectionne en fonction de sa

structure interne des éléments dans des mondes possibles. Cette sélection pragmatique

dépend d’une instance de choix intensionnelle.

(iii) Le référent sélectionné est une sorte d’objet dynamique à la Peirce qui est

indexicalement sélectionné en tant que représenté d’une certaine façon, i.e. en tant que

représenté par F.

(iv) L’existence devient par conséquent indépendante d’un rapport dénotationnel au

monde et s’identifie à une consistance de la signification.

(v) Il peut du coup y avoir une inférence concernant l’existence. L’existence se disjoint

de l’ontologie et acquiert le statut d’un prédicat.

VII. L'ε-CALCULUS ET LA LOGIQUE INTUITIONNISTE

Des travaux récents ont étudié l'opérateur ε dans le cadre de la logique intuitionniste

où l'implication F ⇒ ¬¬F est valide (car si a satisfait F, alors a est un contre exemple

explicite à ¬F(x) et on a donc ¬¬F(x)) sans que le soit pour autant l'implication réciproque :

(¬¬) ¬¬F ⇒ F.

34

La différence entre F et ¬¬F se voit très bien dans la sémantique intuitionniste

standard où les valeurs de vérité constituent une algèbre de Heyting et non plus une algèbre

de Boole. On y considère que les extensions des prédicats, au lieu d'être des ensemblesquelconques, sont des ouverts d'espaces topologiques. Si X = XF est l'extension (ouverte) de

F, alors celle de ¬F n'est pas le complémentaire CX de X (qui est fermé) mais son intérieur

CXo

. Cela implique le viol du tiers exclu F∨¬F car pour les éléments du bord ∂X de X on

n'a ni F(x) ni ¬F(x). Comme le complémentaire de CXo

est la fermeture X de X, on voit que

¬¬F correspond à Xo

, l'intérieur de la fermeture de X. On a évidemment (car X est ouvert)

X ⊂ Xo

. Les prédicats pour lesquel F = ¬¬F sont dits décidables.

La logique intuitionniste permet de résoudre de façon particulièrement efficace un

certain nombre de paradoxes, par exemple ceux des infinitésimales leibniziennes évoqué

plus haut. En effet, on peut montrer que dx devient un symbole dénotant dans la théorie de

R le sous-ensemble ¬¬{0} des réels non non nuls.33 En logique classique ¬¬{0}={0} et il

n'existe donc pas d'infinitésimales. Mais en logique intuitionniste ¬¬{0}≠{0} et il existe

donc des infinitésimales.

On peut développer une version intuitionniste CPIε de l'ε-calculus hilbertien. On

garde l'axiome d'équivalence définissant ε :

(∃) ∃x F(x) ⇔ F(εF).

Mais il n'implique plus pour les universelles l'équivalence:(∀) ∀x F(x) ⇔ F(ε¬F).

On a évidemment ∀x F(x) ⇒ F(ε¬ F) et donc ¬F (ε¬F) ⇒ ¬∀x F(x), i.e., d'après (∃),

∃x ¬F(x) ⇒ ¬∀x F(x). Mais l'on n'a pas l'implication réciproque ¬∀x F(x) ⇒ ¬F(ε¬F) ou

¬∀x F(x) ⇒ ∃x ¬F(x) (ce qui est un aspect de la non validité du tiers exclu). Comme nous

l'avons vu plus haut on n'a que le principe de Markov affirmant le tiers exclu pour les

prédicats décidables.

Contrairement à ce qui se passe dans le cas classique, CPIε n'est pas une extension

conservative de CPI. Il est strictement plus riche. Par exemple on peut y construire

effectivement des fonctions discontinues sur R alors que dans la théorie intuitionniste de R

toutes les fonctions sont continues.

Dans une fort belle étude sur l'ε-calculus intuitionniste, l'éminent logicien John Bell

(qui a par ailleurs donné une version de l'ε-calculus dans le cadre de la théorie des topoï) a

33 Pour une introduction à ces questions, et en particulier aux résultats de Penon, cf. Petitot [1997].

35

montré que l'écart entre logiques respectivement classique et intuitionniste était

essentiellement lié au caractère intensionnel des ε-termes.

«Since the εA have been introduced intensionally, that is by the form ofthe defining predicate A, we do not yet possess a useful sufficient identitycondition.» 34

On peut rétablir l'extensionalité avec l'axiome d'identité d'Ackermann (ε2)

(ε2) ∀x (F(x) ⇔ G(x)) ⇒ εF = εG

car alors

«the identity of εA is completely determined by the extension of A.»

J. Bell démontre alors le théorème que l'axiome d'Ackermann implique le tiers exclu

F∨¬F. Ce résultat philosophiquement profond montre que la logique classique est une

conséquence du fait que les prédicats peuvent être exemplifiés de façon extensionnelle.

«In short, not existence, but extensional existence, yields classicallogic.» 35

J. Bell montre ensuite que l'ε-calculus intuitionniste CPIε est "sain" (ou "adéquat"),i.e. Σ ¢ CPε

ϕ implique Σ £CPεϕ . Mais, contrairement au CPε classique, il n'est pas

complet car, par exemple, la formule εx(x = x) = εx(x ≠ x) y est valide sans y être pour autant

dérivable.Enfin J. Bell montre qu'il est impossible de dériver dans CPIε l'inférence

¬∀x F(x) ⇒ ∃x ¬F(x) ainsi que le tiers exclu F∨¬F. Pour démontrer ces assertions, le

principe d'extensionalité d'Ackermann se révèle absolument nécessaire.

CONCLUSION

On voit quelle est toute l'importance du formalisme hilbertien que G. Preti

avait choisi pour fonder ses "recherches ontologiques" concernant l'existence comme

prédicat. Dans la synthèse que lui permettait son impressionnante érudition philosophique,

il a bien dégagé un point technique nodal. Cela est, je crois, exemplaire de sa démarche :

34 Bell [1993], p. 6.

35 Ibid., p. 8.

36

articuler de la façon la plus harmonieuse possible la vaste fresque historique des grandes

doctrines métaphysiques avec des points critiques spécialisés. C'est pour moi la

caractéristique des philosophes rationalistes humanistes comme Kant ou Husserl. Preti est

comme un Cassirer qui aurait compris Russell et Carnap. Il peut faire des cours magistraux

de scholastique médiévale, d'esthétique ou de philosophie morale et, dans le même temps,

discuter des avancées de la logique. Il le montre bien ici dans son usage du formalisme

hilbertien. Pour ma part je connais fort peu de philosophes capables de telles performances

et c'est pourquoi je suis si heureux que nous rendions aujourd'hui hommage à sa pensée.

BIBLIOGRAPHIE

ACKERMANN, W., 1924. "Begründung des 'tertium non datur' mittels der Hilbertschen

Theorie der Widerspruchsfreiheit", Mathematische Annalen, 93, 1-36.

ACKERMANN, W., 1928. "Zum Hilbertschen Aufbau der reellen Zahlen", Mathematische

Annalen, 99, 118-183. Trad. Anglaise "On Hilbert's construction of the real numbers", in

van Heijenoort (ed.) 1967, 493-507.

ACKERMANN, W., 1940. "Zur Widerspruchsfreiheit der Zahlentheorie", Mathematische

Annalen, 117, 162-194.

ASSER, G., 1957. "Theorie der logischen Auswahlfunktionen", Zeitschrift Math. Logik

Grundlagen Math., 3, 30-68.

BELL, J.L., 1993. "Hilbert's ε-operator and classical logic", Journal of Philosophical

Logic, 22, 1-18.

BERNAYS, P., 1927. "Appendix to Hilbert's lecture: The foundations of Mathematics", in

van Heijenoort (ed.) 1967, 485-489.

BOURBAKI, 1958. Théorie des ensembles, Hermann, Paris.

DESCLES, J-P., 1990. Langages applicatifs, langues naturelles et cognition, Hermès,

Paris.

DE VIDI, D., 1995. "Intuitionnistic ε- and τ-calculi", Mathematical Logic Quaterly, 41

(1995) 523-546.

DONNELLAN, K., 1966. "Reference and Definite Descriptions", Philosophical Review,

75, 281-304.

EGLI, U., von HEUSINGER, K., 1995. "The epsilon operator and E-type pronouns", in

Lexical Knowledge in the Organization of Language (U. Egli et al. Eds), Current Issues in

Linguistic Theory 114, Amsterdam, Benjamins, 121-141.

FINE, K., 1985. Reasoning with Arbitrary Objects, Oxford, Blackwell.

FITTING, M., 1970. An ε−calculus for first order S4, Lecture Notes 255, Springer.

37

GODEMENT, R., 1962. Cours d'algèbre, Paris, Herman.

HILBERT, D., 1925. "On the Infinite", in van Heijenoort (ed.) 1967, 367-392.

HILBERT, D., 1927. "The Foundations of Mathematics", in van Heijenoort (ed.) 1967,

464-479.

KREISEL, G., 1951. "On the interpretation of non finistic proofs, I, Journal of Symbolic

Logic, 16, 241-267.

LAUTMAN, A., 1937. Essai sur l'unité des mathématiques et divers écrits, (réedition des

ouvrages parus chez Hermann de 1937 à 1939 et, à titre posthume, en 1946), Paris,

Bourgois, 1977.

LEISENRING, A.C., 1969. Mathematical Logic and Hilbert's ε-Symbol, Gordon & Breach,

New York.

LEWIS, D., 1979. "Scorekeeping in a language game", in Semantics from Different Points

of View (R. Bäuerle et al. eds), Berlin, Springer, 172-187.

LINSKY, B., ZALTA, E., 1995. "Naturalized Platonism vs. Platonized Naturalism", The

Journal of Philosophy, XCII/10, 525--555.

MEYER VIOL, W.P.M., 1995. Instantial Logic, ILLC Dissertation Series, 1995-11,

Amsterdam.

MINTS, G., TUPAILO, S., 1999. "Epsilon-substitution for the ramified language and ∆11 -

comprehension rule", in Logic and Foundations of Mathematics (A. Cantini et al. eds),

Dordrecht, Kluwer, 107-130.

NEF, F., 1998. L'objet quelconque, Paris, Vrin.

PETITOT, J., 1979. «Infinitesimale», Enciclopedia Einaudi, VII, 443-521, Einaudi, Turin.

PETITOT, J., 1985. Morphogenèse du Sens, PUF, Paris.

PETITOT, J., 1987. «Refaire le «Timée». Introduction à la philosophie mathématique

d'Albert Lautman», Revue d'Histoire des Sciences, XL, 1, 79-115.

PETITOT, J., 1989. «Rappels sur l'Analyse non standard», La Mathématique non standard,

187-209, Editions du CNRS, Paris.

PETITOT, J., 1990. "Logique transcendantale et Herméneutique mathématique : le

problème de l'unité formelle et de la dynamique historique des objectivités scientifiques", Il

pensiero di Giulio Preti nella Cultura filosofica del novecento, 155- 172, Franco Angeli,

Milan.

PETITOT, J., MINAZZI, F., 1993. "La connaissance objective comme valeur historique: le

néo-illuminisme italien", Philosophies en Italie (I), Archives de Philosophie, 56, 4, 621-

660.

PETITOT, J., 1995. "Pour un platonisme transcendantal", in L'objectivité mathématique.

Platonisme et structures formelles (M. Panza, J-M. Salanskis eds), Paris, Masson, 147-178.

38

PETITOT, J., 1999. "Les infinitésimales comme éléments nilpotents: actualité du débat

Nieuwentijt / Leibniz", in L'actualité de Leibniz : les deux labyrinthes (D. Berlioz, F. Nef

eds), Studia Leibnitiana Supplementa, 34, Stuttgart, Franz Steiner, 567-575.

PETITOT, J., 2001. "La dialectique de la vérité objective et de la valeur historique dans le

rationalisme mathématique d'Albert Lautman", Sciences et philosophie en France et en

Italie entre les deux guerres (J. Petitot et L. Scarantino eds), Biblioteca Europea 23, Istituto

Italiano per i Studi Filosofici, Naples, Vivarium, 29-55.

PERUZZI, A., 1983. Definizioni: la cartografia dei concetti, Milan, Angeli.

PERUZZI, A., 1989. "The theory of descriptions revisited", Notre Dame Journal of Formal

Logic, 30 (1), 91-104.

POLI, R., 1992. Ontologia formale, Genova, Marietti.

SANTAMBROGIO, M., 1992. Forma e oggetto, Milan, Il Saggiatore.

SLATER, B.H., 1994. "The Epsilon Calculus Problematic", Philosophical Papers, XXIII,

217-242.

VAN HEIJENOORT, J. (ed.), 1967. From Frege to Gödel, Harvard University Press,

Cambridge.

Von NEUMANN, J., 1927. "Zur Hilbertschen Beweistheorie", Mathematischen Zeitschrift,

26, 1-46.

ZACH, R., 2002. "The Practice of Finitism : Epsilon Calculus and Consistency Proofs in

Hilbert's Program", Synthese (forthcoming).

ZALTA, E., 1988. Intensional Logic and the Metaphysics of Intentionality, Cambridge

(MA), The MIT Press/Bradford Books.

ZALTA, E., 1998. "Mally's Determinates and Husserl's Noemata", in Ernst Mally - Versuch

einer Neubewertung, A. Hieke (ed.), St. Augustin, Academia-Verlag, 9-28.