Pierre Cassou-Noguès, Gödel, Les Belles Lettres, coll. « Figures du savoir », 2004, 190 pages.

Après un Hilbert plutôt incomplet dont j’ai rendu compte ici (voir Philosophiques, vol. 29, n^o 2 (Automne 2002), p. 391-392), Pierre Cassou-Noguès nous livre un Gödel plus équilibré et mieux informé. Un premier chapitre « Gödel dans la bibliothèque de Babel » présente la méthode diagonale et les paradoxes de l’imprédicativité (Richard, Poincaré) qui en découlent, dans un décor à la Borgès, d’une pédagogie fort efficace. Poincaré est un des lecteurs de cette bibliothèque qui ont proposé l’idée du cercle vicieux pour sortir du labyrinthe borgésien. Hilbert s’y retrouve aussi, mais sa métamathématique finitaire confine à certains rayons de la bibliothèque les ouvrages de mathématique-fiction où sont conservés « les éléments idéaux », alors que pour un Finsler, la bibliothèque tout entière est la bibliothèque idéale. Gödel entre à son tour ; en supposant que l’ensemble infini (dénombrable) des livres de la bibliothèque ne comporte pas de contradiction — c’est la consistance oméga —, il montrera à l’aide de la diagonale de Cantor que la bibliothèque ne possède pas tous les livres (1^er théorème d’incomplétude) et qu’on doit en sortir pour montrer qu’il en est bien ainsi (2^e théorème d’incomplétude sur les preuves de consistance « externe »). Je n’ai fait que paraphraser le propos de Cassou-Noguès dans ce chapitre. L’auteur choisit de traiter le problème en termes de fictions idéales et de réalité mathématique plutôt qu’en termes de constructivisme finitiste et de réalisme infinitaire. Il est vrai que Gödel a professé un réalisme platonicien, mais c’était pour justifier l’accès au paradis cantorien du transfini en sortant de la bibliothèque ! Le deuxième chapitre, « Gödel dans l’histoire des sciences », part de la théorie des ensembles et de l’hypothèse du continu pour évaluer le logicisme de la théorie des types (Russell), l’intuitionnisme (Brouwer) et le formalisme (Hilbert) à la lumière des résultats de Gödel. La théorie des types, simple ou ramifiée, achoppe à l’axiome de réductibilité, qui demeure arbitraire, le principe du tiers exclu est rejeté par Brouwer pour les suites infinies et la théorie des systèmes formels, ou métamathématique de Hilbert, viendra se heurter au théorème d’incomplétude (sémantique) de Gödel. Ici encore le traitement est élémentaire, et l’auteur ne se soucie guère des détails techniques ; par exemple, il néglige de faire la distinction entre 1^er et 2^e ordre (et ordres supérieurs) pour la logique des prédicats, et l’arithmétique de Peano — qui est catégorique au second ordre (p. 50-51). « Le théorème d’incomplétude » présente informellement le résultat de Gödel. Ici, le texte est clair, et si la discussion est sommaire en ce qui a trait, par exemple, aux fonctions récursives primitives et l’arithmétisation de la syntaxe, le parcours conceptuel est suffisamment rigoureux pour donner une idée juste de la démonstration de Gödel. L’auteur ne manque pas de rapprocher le résultat d’incomplétude du paradoxe du menteur (Épiménide) comme l’avait fait Gödel dans son mémoire original, ce qu’il regrettera plus tard en déplorant l’assimilation d’un résultat fondamental à une boutade philosophique. Mais contrairement à Gödel, l’auteur n’admet pas la possibilité d’une preuve « interne » de la consistance de l’arithmétique et suppose que l’on doit accepter l’existence d’un infini actuel (p. 73) d’un point de vue transcendant que Gödel n’a pu cependant récuser. Le chapitre portant sur la calculabilité adopte le même langage élémentaire pour aborder les travaux de Turing, Church et Kleene. Le problème de l’arrêt, qui est la version machine-de-Turing du théorème d’incomplétude, a droit à un traitement élaboré, mais l’auteur n’insiste guère sur les notions d’ensemble récursivement énumérable et d’ensemble récursif (dont le complément est aussi récursivement énumérable), qui …