Fondation des mathématiques

Le problème de la fondation, ou des fondements, des mathématiques est celui des principes et de leur vérité. À partir de quels principes peut-on développer des connaissances mathématiques ?

Sommaire

1 Les fondements de la géométrie

2 Les fondements de l’analyse et la théorie des ensembles

3 Le programme de Hilbert

4 La méthode formaliste

5 Les théories des ensembles

Les fondements de la géométrie

L’œuvre de Hilbert est très représentative de la crise des fondements qui s’est produite en mathématiques dans la première moitié du 20ème siècle.

Hilbert, comme d’autres logiciens et mathématiciens de son temps, s’est rendu compte que la géométrie euclidienne était incomplète, pas au sens où l’axiome des parallèles n’y est pas déductible, mais parce que tous les géomètres depuis Euclide se servent dans leurs preuves d’axiomes qui n’avaient jamais été explicités. À la suite des travaux de Pasch, Hilbert a donné une formulation presque complète de la géométrie euclidienne (Les fondements de la géométrie) pour laquelle aucun axiome géométrique n’était laissé dans l’ombre.

Ce programme de fondation de la géométrie n’était cependant pas achevé pour deux raisons. D’une part les règles admises de raisonnement étaient encore laissées dans l’implicite. D’autre part, un des axiomes de la géométrie, relatif à la continuité de l’espace, posait des problèmes d’interprétation associés à ceux de la définition des nombres réels et de la théorie des ensembles de Cantor.

Les fondements de l’analyse et la théorie des ensembles

L’analyse, que l’on peut aussi appeler calcul infinitésimal, ou calcul différentiel et intégral, repose sur la définition de l’ensemble des nombres réels. Le caractère peu rigoureux de ses principes, notamment les calculs sur les infiniment petits de Leibniz, avait été dénoncée depuis sa découverte par Newton et Leibniz (mais ses origines sont plus lointaines, on peut remonter au moins jusqu’à Zénon d’Elée).

Cauchy, puis Dedekind, Cantor et d’autres ont donné une formulation précise de principes qui permettent de raisonner avec rigueur et exactitude sur les nombres réels, ceux-ci étant définis à partir des nombres rationnels. Peano a donné des axiomes et des méthodes formelles pour développer d’une façon logiquement rigoureuse l’arithmétique et celle-ci suffit pour fonder la théorie des nombres rationnels.

La théorie des ensembles de Cantor semblait donc être le cadre idéal, paradisiaque selon l’expression de Hilbert, pour fonder l’analyse. Frege, de son côté avait donné des règles formelles précises et explicites pour faire tous les raisonnements mathématiques. On pouvait donc espérer arriver à la définition d’une base solide pour l’ensemble des mathématiques.

Mais cette base “solide” n’ a pas tardé à montrer ses faiblesses. La théorie des ordinaux de Cantor se heurtait au paradoxe de l’ordinal de l’ensemble de tous les ordinaux, ou Paradoxe de Burali-Forti. La contradiction de la théorie des ensembles de Frege a été prouvée par Russell (voir Paradoxe de Russell). De nombreux autres paradoxes mettaient en doute notre capacité à donner des principes fiables pour la logique et les mathématiques.

Le programme de Hilbert

Pour répondre aux problèmes de la crise des fondements des mathématiques, Hilbert avait conçu un programme formaliste. L'idée était la suivante.

On a le droit d'affirmer l'existence de tous les êtres mathématiques que l'on veut pourvu que la théorie soit cohérente. La question de l'existence des êtres problématiques était remplacée par celle de la cohérence des théories. Comme celles-ci peuvent être identifiées à des ensembles de formules, Hilbert et ses élèves ont développé des méthodes pour étudier la construction des ensembles de formules et donc des théories. Ils espéraient que ces méthodes formalistes apporteraient une réponse complète et définitive aux problèmes des fondements des mathématiques, en donnant une procédure mécanique, un algorithme, destiné à répondre à toutes les questions formelles. C'est le programme formaliste, ou finitaire, de Hilbert.

On sait aujourd'hui que si le programme de Hilbert avait été réalisable sous sa forme initiale, cela voudrait dire qu'un ordinateur pourrait être programmé de façon à être capable de prouver toutes les vérités mathématiques sur les nombres et les systèmes formels, autrement dit sur toutes les théories. La recherche de toutes les vérités ne serait plus qu'un problème de temps de calcul, ce qui serait quand même un problème, parce qu’être obligé d’attendre plusieurs dizaines d’années pour avoir une réponse, c’est ne pas avoir de réponse.

On peut déduire du premier théorème d'incomplétude de Gödel que le programme de Hilbert n'est pas réalisable, du moins pas sous sa forme initiale, parce qu’aucune théorie axiomatique (finiment axiomatisée) ne peut suffire pour prouver toutes les vérités mathématiques, ne serait-ce que les vérités arithmétiques.

La méthode formaliste

L’échec du programme de Hilbert n’a pas fait perdre au formalisme tout son attrait. La méthode formaliste est en fait essentielle pour comprendre les mathématiques contemporaines.

Définir un théorie formelle, c'est :

se donner des symboles ( $a$ , $b$ , $=$ , $+$ , $= >$ , etc) ;
se donner une syntaxe pour construire des « phrases ». Par exemple on peut écrire $a = > b$ mais pas $a b = >$ ;
se donner une méthode pour déduire des phrases à partir d'autres phrases. Par exemple, si on a $a\geq b$ et $b\geq c$ alors on a aussi la « phrase » $a\geq c$ .

Définir une théorie de façon formelle est essentiel pour montrer qu’elle est cohérente, c’est-à-dire qu’on ne peut pas déduire de contradiction à partir de ses axiomes. Tant qu’un formalisme n’est pas précisé, on ne sait pas exactement si une formule appartient ou non à la théorie.

Les règles de déduction sont désormais complètement connues et formalisées au sein de la logique mathématique. Toutes les connaissances mathématiques peuvent être prouvées avec ces règles et des axiomes convenablement choisis.

Les théories des ensembles

Les mathématiques actuelles sont basées sur les ensembles, et en fait tout objet mathématique ou presque peut être défini comme un ensemble.

Par exemple 23 peut être défini comme un ensemble qui contient 23 éléments. Une façon de faire consiste à construire $\mathbb N$ comme ceci: $0 = \emptyset$ et $n + 1 = n \cup \{ n \}$ (voir à ce sujet l'article sur la construction des entiers naturels).

Avec de telles définitions, ou d’autres semblables, toutes les connaissances mathématiques peuvent être prouvées à l’intérieur d’une théorie des ensembles. Leurs axiomes peuvent être considérés comme les principaux fondements des mathématiques (avec les règles de déduction du calcul des prédicats au premier ordre).

Plusieurs systèmes d’axiomes peuvent être proposés :

La théorie axiomatique des ensembles « standard » comporte neuf axiomes. Ces axiomes ont été énoncés par Zermelo (1908) et complétés dans les années 1920 par Fraenkel et Skolem. Ils sont dits de Zermelo-Fraenkel et comprennent l'axiome du Choix, d'où le sigle ZFC souvent employé pour désigner cette théorie. L'œuvre de l'association Bourbaki a été développée dans ce cadre axiomatique.
La théorie des classes, de Von Neumann, Gödel et Bernays (NGB). C’est une extension de ZFC qui lui est presque équivalente. Tous les théorèmes de ZFC sont des théorèmes de NGB. Inversement, tous les théorèmes de NGB qui ne mentionnent que les notions fondamentales de ZFC (c’est-à-dire les ensembles et non les classes) sont des théorèmes de ZFC. NGB convient mieux que ZFC pour formuler la théorie des catégories.
La théorie des types de Whitehead et Russell, exposée principalement dans les Principia Mathematica. Son formalisme est lourd (des dizaines de pages pour prouver des trivialités) et ses principes sont peu élégants, parce qu’ils imposent beaucoup d’interdits injustifiés. Mais elle a une grande importance historique parce qu’elle est la première formulation axiomatique, rigoureuse et cohérente des principes généraux des mathématiques.
La théorie du zig-zag interdit de Quine. Elle n'est pas très utilisée mais pourrait l’être davantage. Elle montre en particulier qu’on peut développer une théorie des ensembles sans exclure l’ensemble de tous les ensembles.
D’autres théories, qui sont soit moins puissantes que les précédentes, parce qu’elles refusent les constructions ensemblistes trop audacieuses (théories constructivistes, intuitionnistes, finitaires, ...), soit plus puissantes parce qu’elles les complètent avec d’autres axiomes (axiome de constructibilité, axiomes des très grands ensembles, ...)

Parmi les mathématiciens, certains se contentent des axiomes ZF, et refusent l'axiome du choix (C), car ils considèrent que certaines de ses implications sont contre-intuitives. Certains mathématiciens refusent même ZF et la logique classique qui en est la base, car ils considèrent que tout doit être construit explicitement; c'est la raison pour laquelle on les appelle constructivistes ou intuitionnistes. Mais il n’y a pas de consensus sur les principes du constructivisme, ou de l’intuitionnisme. Il y a presque autant d’intuitionnismes que d’intuitionnistes.

L'analyse non-standard ajoute à ZFC un prédicat unaire fondamental et quelques axiomes supplémentaires pour utiliser ce prédicat. Cela permet d'augmenter le vocabulaire du mathématicien et de simplifier parfois ses phrases et ses preuves. Par exemple la continuité d'une fonction dans $\mathbb R$ se définit plus simplement avec l'analyse non-standard : $f$ est continue si pour tout $y$ infiniment petit et pour tout $x$ , $f (x + y)$ est infiniment proche de $f (x)$ . La notion d'infiniment petit est parfaitement définie en analyse non-standard. On obtient ainsi une définition de la continuité bien plus intuitive que la définition classique (dite « à base d'epsilons »), et qui demeure cependant logiquement rigoureuse.