Corps de l’article

L’infini est une grille de lecture privilégiée de l’oeuvre cartésienne. De la métaphysique à la philosophie pratique en passant par les sciences, la distinction que Descartes opère entre infini (infinitus) et indéfini (indefinitus) traverse et éclaire les textes, de Dieu au monde, de l’univers à la volonté, de l’atome au plus grand nombre. Une difficulté, cependant, persiste : l’infini en mathématiques. Quand on connaît à la fois l’importance et l’ambivalence du rôle des mathématiques dans l’environnement cartésien, l’attitude de l’auteur, souvent sévère, toujours critique, envers les problèmes posés par ses contemporains, on ne s’étonnera pas que l’infini y occupe une place à l’arrière-scène. La position de Descartes face à la question de l’infini en mathématiques est complexe, paradoxale, prudente. Pour le dire en un mot : il n’y a pas, chez Descartes, d’infini en mathématiques.

À plusieurs endroits, l’auteur fait de sévères critiques à l’encontre des mathématiques, évoquant « les problèmes creux avec lesquels les arithméticiens ou les géomètres ont coutume d’amuser leurs loisirs[1] » : « Rien n’est plus vain que de s’occuper de nombres abstraits et de figures imaginaires, au point de sembler vouloir se contenter de connaître de pareilles bagatelles[2]. » En 1630, il écrivait déjà à Mersenne : « Pour des problèmes, je vous en enverrai un million pour proposer aux autres, si vous le désirez; mais je suis si las des mathématiques, et en fais maintenant si peu d’état, que je ne saurais plus prendre la peine de les soudre moi-même[3]. »

L’attitude de Descartes, loin d’être un pur rejet, dissimule en vérité un simple reproche : si l’auteur ne s’occupe guère des mathématiques et en fait un seul loisir, c’est en remarquant combien sont vains les problèmes qu’elle pose, c’est-à-dire combien son abstraction manque l’essentielle visée pratique qui doit être celle de l’esprit humain. Les mathématiques cartésiennes, car elles sont malgré tout, ont effectivement, elles, une visée résolument pratique et ordinaire[4]. Et s’il en est ainsi, c’est que les mathématiques, pour Descartes, ne sont rien de plus qu’une fabrication de l’esprit — thèse qui domina l’école française de la fin du XIXe siècle et du début du XXe (Borel, Poincaré, Lebesgue), dont on retrouve encore aujourd’hui les traces dans le constructivisme, et qui oppose ses mathématiques du faire à celles de l’être, défendues notamment par Cantor et Dedekind.

Dans un tel contexte, on comprendra aisément que la question de l’infini, que déjà Descartes se refuse à expliciter d’une manière générale, en raison de son essentielle incompréhensibilité, soit, en mathématiques, plus encore qu’ailleurs, évitée, dans la lignée de la tradition grecque[5]. L’auteur fait la promesse de ne rien déterminer de cette question :

Ainsi nous ne nous embarrasserons jamais dans les disputes de l’infini; d’autant qu’il serait ridicule que nous, qui sommes finis, entreprissions d’en déterminer quelque chose, et par ce moyen le supposer fini en tâchant de le comprendre; c’est pourquoi nous ne nous soucierons pas de répondre à ceux qui demandent si la moitié d’une ligne infinie est infinie, et si le nombre infini est pair ou non pair, et d’autres choses semblables, à cause qu’il n’y a que ceux qui s’imaginent que leur esprit est infini qui semblent devoir examiner telles difficultés[6].

C’est précisément parce que Descartes n’entend rien déterminer de la question de l’infini en mathématiques, que nous pourrons assurer, d’une part, qu’il n’y a pas, chez Descartes, d’infini mathématique et, d’autre part, que les rares réponses que l’auteur ne parvient pas à taire touchant cette question ne laissent voir que son refus d’en déterminer quoi que ce soit, c’est-à-dire l’in-détermination de l’in-défini[7].

En premier lieu, s’il n’y a pas, chez Descartes, d’infini mathématique, c’est que l’infini cartésien — l’infinitasubstantia — exclut que l’on puisse parler d’un autre que lui, qui serait un infini non véritable, et qui pourrait oeuvrer en mathématiques. Leibniz ne sera pas si exigeant et proposera que l’on puisse disputer de l’infini en mathématiques, à condition de savoir que cet infini n’est pas le véritable : à Des Bosses, qui lui oppose, d’une manière éminemment cartésienne, « 4- Notre esprit, de ce qu’il est fini, ne peut rien savoir de certain sur l’infini, et partant il convient de n’en jamais disputer », il répond :

Les mathématiciens, si je ne m’abuse, ont déjà réfuté la quatrième, et j’ai moi-même donné quelques spécimens de la science de l’infini. En attendant, je pense qu’à proprement parler l’infini formé de parties n’est ni une unité ni un tout, et qu’on ne le conçoit comme quantité que par pure fiction de l’esprit. Seul l’infini sans parties est un, mais il n’est pas un tout; cet infini est Dieu[8].

Mais Descartes, quant à lui, interdit que l’infinitasubstantia puisse côtoyer, et être comme limité par lui, un infini en son genre qui ne serait pas l’infini en tous les genres. La notion d’« infini mathématique » est absurde, dans la mesure, comme le rappellera le cartésianisme de Fénélon, où « l’infini ne peut admettre ni nombre ni augmentation[9] ». Et c’est pourquoi il n’y a pas, à proprement parler, d’infini en mathématiques.

Et en second lieu, si Descartes reste donc indécis sur la question de l’infini en mathématiques, c’est aussi, tout simplement, parce que la mathématique « accoutume à se repaître de vérités (à reconnaître la vérité)[10] » et que, sur des problèmes tels que ceux qui demandent « si la moitié d’une ligne infinie est infinie, et si le nombre infini est pair ou non pair, et d’autres choses semblables[11] », on ne saurait prétendre dire une vérité, puisque la vérité, dans ce cas, est au-delà des capacités de notre esprit fini. Or, en ne faisant de la question de l’infini en mathématique que celle de l’indéfini, Descartes s’autorise, non à dire une quelconque vérité sur ces problèmes, mais seulement à décrire l’impuissance dans laquelle il est de ne pouvoir le faire.

Nous bâtirons donc la thèse selon laquelle, chez Descartes, étudier la question de l’infini en mathématiques ne revient qu’à dévoiler et expliquer les signes de sa fuite, en deux moments : d’abord, nous verrons comment il n’y a pas, chez Descartes, d’infini mathématique par le biais de la position cartésienne touchant la question de l’infinitésimal. Ensuite, nous conclurons qu’il n’y a, chez Descartes, et sur l’infini en mathématiques, qu’un indéfini, en discutant l’existence et le statut du « plus grand nombre ».

I. L’infinitésimal

Si l’on pense presque systématiquement à Leibniz, en ce qui concerne la question de l’invention du calcul infinitésimal, on oublie trop souvent trois sources. Premièrement, le travail initiateur de Fermat qui, dès 1632, dans son De Maximis et Minimis, utilise ce qui pourrait être tenu pour le premier calcul infinitésimal, à savoir la première méthode d’algébrisation permettant de trouver la tangente à une courbe : dans ses calculs, Fermat use effectivement d’une quantité infinitésimale, notée e, et qui, bien que non nulle, peut être supprimée; ainsi passe-t-il de l’adégalité « b ( 2a + e » à l’égalité « b = 2a ». Reste que l’infinitésimal n’est pas chez Fermat la plus belle manifestation de la question de l’infini en mathématiques : il s’agirait plutôt de la descente infinie (ou indéfinie : Fermat sur ce point utilise la même précaution de vocabulaire), laquelle peut être considérée comme le point de départ du courant constructiviste sur la question, comme on peut le voir chez Yvon Gauthier. Deuxièmement, Pascal, dont Leibniz lui-même reconnaîtra l’influence sur son propre calcul[12], et qui écrit à Fermat, comme à son allié, au sujet de son adversaire le Chevalier de Méré :

Je n’ai pas le temps de vous envoyer la démonstration d’une difficulté qui étonnait fort M. de Méré, car il a très bon esprit, mais il n’est pas géomètre; c’est, comme vous savez, un très grand défaut, et même il ne comprend pas qu’une ligne mathématique soit divisible à l’infini et croit fort bien entendre qu’elle est composée de points en nombre fini et jamais je n’ai pu l’en tirer; si vous pouviez le faire, on le rendrait parfait [13].

Et troisièmement, Newton, dont la méthode des fluxions n’est pas non plus à négliger [14].

Et s’il est si répandu de faire naître le calcul infinitésimal avec Leibniz, c’est qu’il est tout autant remarquable que Descartes l’a à ce titre effleuré, ne pouvant revendiquer pour sa part que la paternité de la géométrie moderne, c’est-à-dire algébrique (ou analytique [15]), comme le rappelle Louis Couturat, répartissant ainsi les mérites : « Descartes, le père de la Géométrie moderne, et Leibniz, l’inventeur du Calcul infinitésimal[16] ». Il s’agit donc pour nous de comprendre dans quelle mesure on peut reconnaître à Descartes pour une petite part d’en avoir été le précurseur, et pour une grande part de l’avoir formidablement — et délibérément — manqué.

A. La réticence de Descartes face à la question de l’infinitésimal

En quoi Descartes peut-il être vu comme un précurseur du calcul infinitésimal, voilà qui peut être réglé rapidement, car si l’on doit reconnaître qu’il s’approche parfois très près des prémisses de l’infinitésimal, le fait qu’il feigne de ne point le remarquer pour l’éviter soigneusement ampute systématiquement les ambitions qu’on lui pourrait attribuer. Certains interprètes, comme Sergescu, persistent malgré tout à lui accorder, sur ce point, un rôle non négligeable : « Il faut dire que Descartes (1596-1650), sans s’occuper de la notion d’infini mathématique, a joué un très grand rôle dans le développement de tous ces calculs infinitésimaux; on verra plus loin que sans lui on n’aurait pas pu avoir Leibniz[17]. » Pour quelles raisons, donc, peut-on reconnaître que Descartes, d’une certaine manière, a conditionné le calcul infinitésimal à venir?

On pourrait voir au moins deux arguments. D’une part, dans la mesure où le calcul différentiel, qui exige des méthodes infinitésimales, est lui-même construit sur la base de l’algèbre cartésienne, on peut indirectement accorder à Descartes, certes à son corps défendant, un rôle dans la genèse du calcul infinitésimal, même sans qu’il ait jamais lui-même joint l’usage des séries infinies à son algèbre pour engendrer ce qui aurait pu devenir le calcul différentiel[18]. Et, d’autre part, on peut aussi attribuer à Descartes la découverte d’un principe essentiel du calcul infinitésimal, pour avoir été le premier à voir que l’intégration est une opération inverse de la détermination de la tangente à une courbe (c’est-à-dire la différenciation), dans une lettre à Florimond de Beaune[19].

Néanmoins, et quant à se demander si Descartes, pour ces deux raisons, possédait en conséquence une sorte d’équivalent du calcul infinitésimal avant l’heure, Vuillemin prévient fort justement que

l’on a coutume, depuis, Lazare Carnot[20], de prétendre que Descartes possédait un équivalent du Calcul infinitésimal dans la méthode des indéterminées. Cette affirmation n’est véritable qu’à une double condition : d’abord faire abstraction du fondement que Carnot prête à cette méthode, y voyant faussement à l’oeuvre une compensation d’erreurs; ensuite en éliminer toute notion d’« équation imparfaite » et d’approximation, étrangères à l’Algèbre[21].

Et il se trouve que Descartes, précisément, se rend aveugle de la naissance du calcul infinitésimal pour y refuser l’approximation, selon les exigences de son algèbre propre. C’est ainsi qu’il y a bien plus à dire, concernant la question de l’infinitésimal chez Descartes, en examinant la manière dont il a su, non y répondre, ou même la poser, mais tout simplement la contourner. On retiendra trois expressions.

Premièrement, par la seule attitude de Descartes, qui reproche à ses correspondants de travailler l’infinitésimal, ou encore leur dénonce les travaux de ceux qui s’y occupent. L’attitude générale de Descartes sur la question des infiniment petits en mathématiques est effectivement, et sans conteste, la plus simple réticence, comme en témoigne sa correspondance avec Fermat et sur Galilée.

La querelle qui oppose Descartes à Fermat[22] révèle précisément en quoi la critique cartésienne de la conception de la tangente comme d’un maximum ou minimum d’un segment sécant à la parabole est celle de l’infinitésimal et, plus largement, de la question de l’infini en mathématiques. Ce que Descartes refuse à Fermat est l’évanouissement d’une quantité quelconque : en passant de l’adégalisation qui approxime e comme tendant vers 0 à l’égalité qui l’y rend identique pour pouvoir la rendre évanescente, Fermat semble considérer une même quantité à la fois comme différente de 0 et comme nulle, ce qui implique une contradiction, et est problématique. Un siècle plus tard, Berkeley formulera la même critique des méthodes infinitésimales en doutant notamment de la validité d’une mathématique qui utiliserait une grandeur non nulle mais tenue pour nulle. Dans un court texte intitulé, Of Infinites, et présenté le 19 novembre 1707, Berkeley montre qu’un infinitésimal « n’est absolument rien[23] ». En 1734, dans The Analyst, il développera méthodiquement de nombreuses objections à l’encontre des méthodes infinitésimales de toutes sortes.

Descartes, en un mot, ne se permet pas ce saut de l’infiniment petit au néant, puisqu’entre les deux il ne saurait y avoir une différence de degré — c’est précisément la raison d’être de l’infinitésimal, qui reste hors du 0 pour ne jamais épuiser tous les degrés qui, théoriquement, mènent à lui — mais de nature. C’est pourquoi la correspondance de Descartes avec Fermat montre que le premier pense du second qu’il est bon mathématicien (on ajoutera : sans doute, même, supérieur à Descartes), mais piètre philosophe.

Quant à Galilée[24], Descartes écrit à Mersenne que son procédé annonçant le calcul infinitésimal lui semble n’être qu’un sophisme :

[Page 19[25]] Il examine la colle qu’il ajoute avec le vide pour la liaison des parties des corps, et il l’attribue à d’autres petits vides qui ne sont nullement imaginables. Et ce qu’il dit (p. 22), pour prouver ces petits vides, est un sophisme; car l’hexagone qu’il propose ne laisse rien de vide en l’espace par où il passe, mais chacune de ses parties se meut d’un mouvement continu, lequel décrivant des lignes courbes qui remplissent tout un espace, on ne doit pas les considérer, comme il fait, en une seule ligne droite. Et il n’importe qu’en sa figure les parties de la ligne droite, IO, PY, etc., ne soient point touchées par la circonférence H I K L, car elles le sont en récompense par d’autres parties de la superficie A B C, et ainsi ne sont non plus vides que les parties OP, YZ, etc. [Page 28] C’est aussi un sophisme que son argument, pour prouver qu’un point est égal à une ligne ou à une superficie. Car in forma on ne peut conclure, sinon que la ligne ou superficie n’est pas un plus grand corps solide que le point, et non qu’elle n’est pas plus grande absolument. [Page 31] Il manque en tout ce qu’il dit de l’infini, en ce que, nonobstant qu’il confesse que l’esprit humain, étant fini, n’est pas capable de le comprendre, il ne laisse pas d’en discourir tout de même que s’il le comprenait[26].

On notera que Galilée lui-même reconnaît que notre entendement fini ne peut comprendre adéquatement ces problèmes touchant l’infini, mais, contrairement à Descartes, qui peut-être est plus exigeant, il invoque notre aspiration vers cet infini pour défendre le fait d’y travailler malgré tout : « Rappelons-nous que nous traitons d’infinis et d’indivisibles, inaccessibles à notre entendement fini, les premiers à cause de leur immensité, les seconds à cause de leur petitesse. Pourtant nous constatons que la raison humaine ne peut s’empêcher de sans cesse y revenir[27]. »

Deuxièmement, l’esquive cartésienne se manifeste également dans le problème de la quadrature de la cycloïde, pour lequel Descartes ne s’embarrasse pas de l’infini. On lit dans les lettres à Mersenne des 27 mai et 27 juillet 1638 que, pour conclure à l’égalité de deux surfaces (l’arc de la cycloïde et un cercle appelé générateur), Descartes ne conçoit pas chacune des surfaces comme une somme (infinie) de lignes droites[28], ce qui exigerait de créer un algorithme d’intégration, mais il se contente de faire passer par n’importe quel point de leur hauteur une parallèle qui sera égale dans l’une et dans l’autre des figures (de telle sorte qu’il pourra conclure à leur égalité). Et, sur ce point, il est si proche de Cavalieri[29] — l’« inventeur » d’une telle méthode — qui résout le problème en balayant de la même façon et par une règle les deux surfaces, qu’on pourrait lui reconnaître, comme le fait Belaval, de l’avoir même mieux compris que ne le fera Leibniz[30]. Pascal, à l’inverse, s’insurgera que l’on ne veuille point donner de sens à l’expression « somme de droites », et sera en conséquence bien moins prudent de s’embarrasser des disputes de l’infini, n’hésitant pas à parler de la « somme de tous les arcs » d’un cercle ou encore d’une « somme d’une multitude indéfinie de lignes », alors même que les définitions de telles expressions restent floues[31].

Troisièmement, il faut enfin examiner l’exclusion des passages à la limite[32]. C’est certainement là l’exemple le plus manifeste de la manière dont Descartes a soigneusement évité l’infinitésimal et tout ce qui était présupposé par lui ou pouvait y conduire. On le remarque à plusieurs endroits.

En métaphysique, tout d’abord, parce que le passage à la limite, qui ici est celui d’une quantité infinitésimale au néant du 0, serait celui du fini à l’infini, alors même que la première règle, touchant l’infini, est celle du tout ou rien, qui interdit qu’une échelle de degrés, même de longueur infinie, puisse le joindre au fini et le décliner en une infinité d’infinis dégradés[33].

En physique, également, à travers la discontinuité entre repos et mouvement et la négation que la vitesse doit passer par tous les degrés pour le mouvement accéléré[34], sans compter la solution à l’« Achille » de Zénon qui, en montrant comment la somme des termes d’une série convergente ne tend pas vers une limite finie, mais est égale à une quantité finie, s’extrait de toute compromission avec l’idée de limite.

Il ne faut pas croire ensuite que la courbe proposée à de Beaune, évoquée tout à l’heure, et qui semble utiliser la méthode des limites, le fasse réellement, puisque, comme le rappelle Yvon Belaval, « telle qu’elle se présente chez lui, elle procède par exhaustion de « parties » finitésimales — et non infinitésimales; elle reste étrangère à la notion de convergence qui ne sera dégagée que par Gregory et reprise par l’anticartésien Wallis[35] ».

Enfin, le refus d’utiliser la notion de « passage à la limite » doit finalement se comprendre à partir de l’idée de limite elle-même, que Descartes ne se résigne pas à accepter claire et distincte, comme le note Vuillemin :

L’idée de limite, dont le philosophe sent au moins confusément qu’elle fonde le Calcul infinitésimal, et qui implique celle d’approximation à l’infini, ne saurait être reçue par lui comme exacte ou distincte. Les courbes transcendantes assignent donc à l’entendement tel qu’il le définit en Mathématiques une limite infranchissable, qui leur confère dans le système de Descartes un rôle analogue à celui que jouent chez Kant les idées pures de la raison que nous ne saurions nous représenter dans une intuition sensible[36].

C’est d’ailleurs pourquoi Belaval reproche justement à Gueroult d’avoir fait de la limite une notion cartésienne dans son Descartes selon l’ordre des raisons, le tirant vers Leibniz d’une manière illégitime[37]. Partant de là, le raisonnement est simple : l’idée de limite n’est pas elle-même claire et distincte. Or la Règle VIII nous apprend que : « Si dans la série des objets de recherche il s’en présente un dont notre entendement ne puisse acquérir une intuition satisfaisante, il faut s’arrêter là : on ne doit point examiner ceux qui suivent, mais se dispenser d’une peine superflue[38]. » Donc, il se comprend aisément que Descartes ne puisse accepter tout ce qui suit du problème de la limite, c’est-à-dire, d’une manière générale, la question de l’infinitésimal elle-même.

Aussi est-il absurde d’écrire, comme le fait J. D. North, que le concept cartésien de limite non seulement est à l’origine de celui de l’infini mais encore influencera Newton, dont il est dit : « In playing with words, making limit a negative concept and therefore infinite a positive one, he is following in Descartes’ footsteps[39]. » Il y a ici au moins trois erreurs. Premièrement, donner au concept de limite une place fondamentale chez Descartes. Deuxièmement, déduire (« therefore ») la positivité de l’infini de la négativité de la limite alors même que Descartes ne cesse de répéter la priorité d’un infini dont la positivité ne signifie d’ailleurs rien d’autre (de telle sorte que « déduire la positivité de... » est une contradiction dans les termes, puisque la positivité est, par définition, première). Troisièmement, déclarer Newton cartésien pour avoir repris cette structure qui n’est pas chez Descartes!

En conclusion, si Descartes semblait avoir à sa portée une bonne partie des outils nécessaires à la génération du calcul infinitésimal, il n’en fit rien. Paralysé par le manque de rigueur de cette fiction seulement utile, il refuse de « négliger comme nulles »[40] — selon l’expression de Pascal qui, lui, l’acceptera sans peine — les quantités infiniment petites. C’est la méthode cartésienne qui dédaigne ici le peu de rigueur du « négliger » de l’évanouissement et demande à la démonstration mathématique d’être un continu — ou continûment légitimée — sans jamais laisser se faire, ne serait-ce qu’un instant, un saut illégitime, fût-il pragmatique. Il applique, en quelque sorte, sa rhétorique de l’attention, qui est une rhétorique contre la relâche[41], au domaine des mathématiques[42].

B. Réfutation d’un soi-disant cas d’utilisation du passage à la limite en métaphysique

Vuillemin remarque qu’un certain texte des Réponses aux Quatrièmes Objections semble utiliser le passage à la limite[43], alors que celui-ci est refusé aux mathématiques. Si, comme nous le défendons, la fuite de Descartes est liée à des impératifs métaphysiques, pourquoi donc, au sein même de sa métaphysique, y aurait-il précisément ce avec quoi elle est prétendument incompatible? Il nous faut examiner l’argument de Vuillemin de plus près.

Dans les Quatrièmes Objections, Arnauld refuse la preuve cartésienne par les effets : le principe de causalité ne s’applique qu’aux choses finies (il faut que la cause et l’effet soient distincts : la notion de causa sui est donc contradictoire dans les termes).

Descartes répond ceci :

Certes, il me semble que M. Arnauld a fait en ceci la même chose que si (après Archimède, parlant des choses qu’il a démontrées de la sphère par analogie aux figures rectilignes inscrites dans la sphère même, aurait dit : si je pensais que la sphère ne pût être prise pour une figure rectiligne, ou quasi rectiligne, dont les côtés sont infinis, je n’attribuerais aucune force à cette démonstration, parce qu’elle n’est pas véritable, si vous considérez la sphère comme une figure curviligne, ainsi qu’elle est en effet, mais bien si vous la considérez comme une figure rectiligne dont le nombre de côtés est infini). Si, dis-je, M. Arnauld, ne trouvant pas bon qu’on appelât ainsi la sphère, et néanmoins désirant retenir la démonstration d’Archimède, disait : si je pensais que ce qui se conclut ici, se dût entendre d’une figure rectiligne dont les côtés sont infinis, je ne croirais point du tout cela de la sphère, parce que j’ai une connaissance certaine que la sphère n’est point une figure rectiligne. Par lesquelles paroles il est sans doute qu’il ne ferait pas la même chose qu’Archimède, mais qu’au contraire il se ferait un obstacle à soi-même et empêcherait les autres de bien comprendre sa démonstration[44].

Vuillemin commente :

Descartes répond par un raisonnement qui utilise le passage à la limite. Comme Archimède démontre des propriétés pour le solide rectiligne inscrit dans la sphère et l’applique à la sphère même, conçue comme un solide ayant une infinité de faces, de même le philosophe est légitimé, si le principe de causalité peut être à bon droit appliqué aux choses et aux idées des choses finies, à l’appliquer à l’infini même et à l’idée que nous en recevons[45].

Or nous contestons la pertinence d’une équivalence entre « le passage à la limite en mathématiques », lequel est quantitatif, et « le passage à la limite en métaphysique », qui, lui, est qualitatif : Descartes ne fait qu’utiliser un raisonnement qui n’a de « passage à la limite » que la forme. Il n’est donc pas ici question du problème de la limite tel qu’il se manifeste en mathématiques.

Par ailleurs, Vuillemin ajoute que Descartes semble utiliser un raisonnement qui apparaîtra explicitement chez Leibniz sous le nom de principe de continuité et se manifeste ainsi dans le texte leibnizien :

Lorsque la différence de deux cas peut être diminuée au-dessous de toute grandeur donnée, in datis, ou dans ce qui est posé, il faut qu’elle puisse se trouver aussi diminuée au-dessous de toute grandeur donnée in quaesitis, ou dans ce qui en résulte; ou, pour parler plus familièrement, lorsque les cas (ou ce qui est donné) s’approchent continuellement et se perdent enfin l’un dans l’autre, il faut que les suites, ou événements (ou ce qui est demandé) le fassent aussi[46].

Le principe de continuité leibnizien enveloppe ainsi un passage aux limites : Leibniz applique à sa métaphysique les procédés inventés pour le calcul infinitésimal. Mais il ne nous semble pas non plus adéquat d’attribuer ce principe de continuité à Descartes, sur le problème du fini et de l’infini, puisque la continuité entre ces deux notions est chez lui inacceptable, en ce qu’il n’y a pas entre elles une différence de degré, mais de nature. Cela est confirmé par Belaval, qui infirme l’attribution de la notion de limite que fait Gueroult à Descartes, par le fait qu’une telle notion présuppose un principe de continuité que Descartes est loin de considérer : « Cette notion implique un principe de continuité que Descartes, non seulement n’a pas généralisé à tout le domaine mathématique (puisqu’il ne peut passer des courbes algébriques aux courbes transcendantes), mais encore qu’il n’a pas songé à étendre à sa Mécanique[47]. » Il faut conclure que Vuillemin, comme Gueroult, tire ici Descartes vers Leibniz.

En conclusion, il ne semble pas que ce prétendu cas d’utilisation de passage à la limite en Métaphysique soit inquiétant pour notre affaire.

II. L’indéfini : existence et statut du « plus grand nombre »

On sait donc comment Descartes a contourné la question de l’infinitésimal, comme celle de l’infini en mathématiques. Reste que, malgré tout, il ne peut éviter de la rencontrer, ici et là, dans un traité de géométrie comme au détour d’une correspondance métaphysique. Comment, dans ce cas, réagit-il? Il ne répond à la question que par l’indétermination de l’in-défini. Et l’exemple parfait d’un tel comportement se trouve particulièrement manifeste dans le problème du nombre infini, ou du « plus grand nombre ». Nous verrons, tout d’abord, comment Descartes, par la finitude de l’entendement condition du nombre, écarte d’emblée la notion même de « nombre infini », dans le but de mieux substituer à l’infinité de la formule classique, et ici refusée, le simple maximum d’un « plus grand nombre ». Il s’agira ensuite de préciser l’in-définité de ce plus grand nombre, pour ne pas pouvoir prouver son existence : car c’est effectivement de cette position concernant son existence que découlera son statut, à savoir celui de nombre indéfini.

A. Comment la finitude de l’entendement infirme la notion de « nombre infini »

À la base des mathématiques se trouve le nombre. À la base de la question de l’infini en mathématiques, donc, se trouve celle du nombre infini. Or, le nombre relève de l’entendement. Si donc il peut seulement ensuite être dit lui-même au fondement des mathématiques, c’est que, par continuité, les mathématiques, à travers le nombre, ont pour condition l’entendement. Or, et c’est de là que vient le problème lorsque se pose la question de l’infini en mathématiques, l’entendement est fini : « ma nature [...] est finie et bornée[48] ». La conclusion ne saurait tarder : n’ont de sens ni un « nombre infini » ni toute investigation « infinitisante » en mathématiques.

C’est donc bien la finitude de l’entendement qui est le nerf du rejet cartésien de l’infini mathématique, comme le confirmera Cantor dans une critique acerbe :

Les mots « entendement fini » que l’on entend si souvent n’offrent, je le pense, aucun caractère pertinent : si bornée que soit en vérité la nature humaine, elle porte pourtant en elle, c’est inhérent, une très grande part d’infini, et j’irais jusqu’à dire que si elle n’était pas elle-même infinie sous bien des rapports, on ne saurait expliquer la ferme assurance et la pleine certitude où nous nous savons tous unis, s’agissant de l’être de l’absolu[49].

Le fait que Cantor, pour asseoir sa position infinitiste, soit amené à s’en prendre à la finitude de l’entendement cartésien non seulement confirme, d’une part, que, d’une manière générale, l’entendement est condition du nombre et, d’autre part, que, chez Descartes, la finitude de l’entendement est condition du rejet de l’infinité du nombre, mais aussi explique pourquoi Cantor préférera Spinoza, chez qui l’entendement est infini — puisqu’il comprend[50] l’infini — pour jeter les bases philosophiques de son infinitisme mathématique tel qu’il est à l’oeuvre dans sa théorie des ensembles[51].

B. Qu’on ne peut prouver l’existence du « plus grand nombre » : indéfinité

Descartes rejette donc d’emblée la notion de « nombre infini ». Il n’en faudra pas moins à Leibniz, qui sur ce point partage les vues cartésiennes, pour en déduire sa simple finitude : si le nombre n’est pas infini, c’est qu’il est fini. C’est effectivement en niant l’existence de l’infini catégorématique, infini dénombrable (« Il n’est pas donné d’Infini catégorématique, c’est-à-dire ayant en acte des parties infinies formellement[52] »), que Leibniz en vient à nier la notion de nombre infini : « Il n’y a point de nombre infini, ni de ligne ou autre quantité infinie, si on les prend pour de véritables touts [...] Les écoles ont voulu dire cela en admettant un infini syncatégorématique, comme elles parlent, et non pas l’infini catégorématique[53]. » Et, de cette négation, il déduit l’affirmation de sa finitude : « Il appartient à l’essence du nombre, de la ligne, et d’un tout quelconque, d’être borné[54]. » La position de Descartes est plus complexe pour au moins deux raisons.

Premièrement, son rejet de la notion de « nombre infini » n’implique pas le rejet de son existence, qu’il ne trouve pas a priori absurde. À Burman qui demande : « Mais il y aurait dans l’hypothèse envisagée un nombre infini? », il aurait répondu : « Et où serait l’absurdité? »[55]. Hannequin s’empresse d’en déduire que le plus grand nombre cartésien, pour cette raison et le fait que, chez Descartes, un infini puisse être plus grand qu’un autre, n’annonce rien de moins que le transfini cantorien :

Ainsi Descartes ne trouve absurde a priori ni l’existence d’un nombre infini [...] ou même celle de plusieurs nombres infinis différents les uns des autres ni la possibilité de concevoir entre eux des rapports qui ne répondent point nécessairement aux rapports des nombres finis; et nous nous contentons de dire qu’en cela il ne faisait qu’énoncer des propositions rendues plus que plausibles par de récentes spéculations sur l’infini proprement dit ou sur le transfini[56] [voir notamment les travaux de M. George Cantor] .

C’est que, de la même manière que l’existence d’un nombre infini ne serait pas absurde, il n’est pas absurde qu’un infini soit plus grand qu’un autre : on pourrait par exemple penser que la série « infinie » des nombres n’a pas de sens, que nous la posons comme telle, sans même savoir ce qu’elle signifie, puisque la série des nombres entiers et celle des nombres pairs constituent deux infinis dont l’un est le double de l’autre — Cantor, avant Russell, a justement montré qu’il y avait bijection entre ces deux ensembles — ce qui semble absurde, pour beaucoup, dont Spinoza lui-même : « Si chaque partie est infinie, il y a donc un infini deux fois plus grand qu’un autre infini, ce qui est également absurde[57]. » Mais, pour Descartes, au contraire, il n’y a rien d’absurde à ce qu’un infini soit plus grand qu’un autre :

Mais, à propos de l’infini, vous m’en proposiez une question en votre lettre du 14 mars, qui est tout ce que j’y trouve de plus qu’en la dernière. Vous disiez que, s’il y avait une ligne infinie, elle aurait un nombre infini de pieds et de toises, et par conséquent que le nombre infini des pieds serait six fois plus grand que le nombre des toises[58]. — Concedo totum [« j’accorde tout cela »]. — Donc ce dernier n’est pas infini. — Nego consequentiam [« Je nie la conséquence »]. — Mais un infini ne peut être plus grand que l’autre. — Pourquoi non? Quid absurdi? [« Qu’y a-t-il d’absurde en cela? »]. Principalement s’il est seulement plus grand in ratione finita, ut hîc ubi multiplicatio per 6 est ratio finita, quoe nihil attinet as infinitum [« Selon un rapport fini, comme ici où la multiplication par 6 est un rapport fini qui ne touche en rien à l’infini »]. Et de plus, quelle raison avons-nous de juger si un infini peut être plus grand que l’autre, ou non? Vu qu’il cesserait d’être infini, si nous le pouvions comprendre[59].

On ne peut identifier un nombre infini comme absolu avec un nombre « infini » qui serait relatif, puisque six fois plus grand qu’un autre. De là, on tirera deux remarques.

D’une part, cet argument logique trouve un fondement dans la méthode cartésienne des moyennes proportionnelles décrite par la Règle VI des Regulae : « Je remarque en effet, pour commencer, qu’il n’a pas été plus difficile de trouver le double de 6 que le double de 3; et que pareillement, en toutes choses, une fois trouvée la proportion qui existe entre deux grandeurs quelconques, on peut trouver d’autres grandeurs en nombre indéfini, qui ont entre elles la même proportion[60]. » En découvrant les moyennes proportionnelles, Descartes fait du nombre une grandeur numérique toujours relative, en tant qu’elle est toujours à la fois le produit d’un nombre et la moyenne proportionnelle d’un autre. De cette manière, le nombre ne peut être « infini » et incompréhensible, puisqu’il est relatif et exprimable[61].

Et, d’autre part, Yvon Belaval exploite cet argument pour mettre en parallèle, chez Descartes, le couple infini/indéfini et celui des ensembles infinis dénombrables/ensembles transfinis :

Descartes semble même pressentir la différence que les mathématiciens ont, depuis, institué entre ensembles infinis dénombrables et ensembles transfinis : des premiers, il donne un exemple lorsqu’il affirme ne rien voir d’absurde à multiplier par 6 un nombre infini de toises, ni même dans la multiplication infinie de l’indéfini qui est égale à l’infini; et avec ce que l’entendement divin conçoit au-delà du plus grand nombre (majus numero), ne pénétrons-nous pas dans le transfini?

Et, comme pour répondre à Hannequin, et contester qu’il s’agit là effectivement de transfini, Belaval poursuit : « Mais il aurait fallu que Descartes passât du nombre cardinal à la considération de l’ordinal, pour concevoir le transfini[62] » — ce qui d’ailleurs est inexact.

Deuxièmement, la non-absurdité de l’existence d’un « nombre infini » n’implique pas l’absurdité de son inexistence. Car toute l’originalité de l’indéfini cartésien — qui se révèlera effectivement occuper le problème du « plus grand nombre » — réside précisément en cette possibilité de contourner la logique binaire qui fait du fini et de l’infini des contradictoires dont la négation de l’un, en l’occurrence du second, impliquerait l’affirmation de l’autre, en l’occurrence du premier. Descartes, de la négation de l’infinité du nombre, ne déduit pas sa finitude, puisqu’il ajoute qu’il ne refuse pas moins l’inexistence que l’existence à ce prétendu « nombre infini » : face à l’idée d’un « nombre infini », Descartes, d’une part, comme on le sait, refuse donc d’en accepter l’existence, puisqu’un tel nombre relève de l’entendement fini et, d’autre part, refuse effectivement avec tout autant de force de la nier en le déclarant contradictoire, ce qui était pourtant relativement courant à l’époque, chez les scolastiques, Leibniz lui-même, ou Mersenne[63], à qui Descartes répond ceci : « De cela seul que j’aperçois que je ne puis jamais, en nombrant, arriver au plus grand de tous les nombres, et que de là je connais qu’il y a quelque chose en matière de nombrer qui surpasse mes forces, je puis conclure nécessairement, non pas à la vérité qu’un nombre infini existe, ni aussi que son existence implique contradiction, comme vous dites[64]. » Si donc j’ai le pouvoir de nombrer à l’infini — et cette infinie puissance de nombrer n’est autre qu’une manifestation de l’infini de ma volonté — je n’ai jamais pour autant nombré le plus grand nombre. Par conséquent, je ne peux rien déduire de son existence. L’indécidabilité de l’existence du plus grand nombre — puisque ni la proposition de l’existence d’un « nombre infini » ni la proposition contraire ne sont démontrables — implique, entre autres, les deux remarques suivantes.

D’abord, le fait que je ne puisse déduire ni l’existence ni la contradiction du « nombre infini » implique que le principe du tiers exclu devienne ici inapplicable. Pour cette raison, Yvon Belaval parle de l’« intuitionnisme » mathématique de Descartes, qu’il dit comparable aujourd’hui à celui de Brouwer, Weyl, Lebesgue ou Borel, dans la mesure où, comme chez eux, le principe du tiers exclu cesse ici d’être valable dans un ensemble infini[65]. Remarquons par ailleurs que Descartes n’accorde de toute façon que peu d’importance à ce principe :

Au premier sens, on peut dire que impossibile est idem simul esse et non esse est un principe, et qu’il peut connaître l’existence d’une chose, mais seulement à faire que, lorsqu’on la connaît, on en confirme la vérité par un tel raisonnement. Il est impossible que ce qui est ne soit pas; or je connais que telle chose est; donc je connais qu’il est impossible qu’elle ne soit pas. Ce qui est de bien peu d’importance, et ne nous rend de rien plus savants[66].

Et si le principe du tiers exclu est « de bien peu d’importance », c’est que Dieu est au-dessus du principe de non-contradiction qui le conditionne : « Dieu ne peut avoir été déterminé à faire qu’il fût vrai, que les contradictoires ne peuvent être ensemble, et que, par conséquent, il a pu faire le contraire[67]. »

Ensuite, on notera que Leibniz, dans ses Animadversiones[68], profitera de cette indétermination pour dénoncer une soi-disant contradiction : Descartes, d’une part, refuse de nier ou d’affirmer l’existence du dernier terme dans une série divergente (à juste titre, par définition, car une série divergente n’a pas de limite)[69] et, d’autre part, affirme la divisibilité de la matière à l’infini; de telle sorte qu’il y a ensemble un nombre infini indécidable et un nombre infini de parties décidable. On pourrait répondre à Leibniz en utilisant les textes de Descartes lui-même, et contester qu’il y a effectivement contradiction en distinguant divisibilité et division : « Pensez que chaque corps peut être divisé en des parties extrêmement petites. Je ne veux point déterminer si leur nombre est infini ou non; mais du moins il est certain qu’à l’égard de notre connaissance il est indéfini, et que nous pouvons supposer qu’il y en a plusieurs millions dans le moindre petit grain de sable qui puisse être aperçu de nos yeux[70] »; ou encore : « De ce que je ne puis comprendre [comprehendere] une infinité de divisions en une quantité finie, il ne s’ensuit pas que l’on puisse venir à une dernière, après laquelle cette quantité ne puisse plus être divisée; mais bien il suit seulement que mon entendement, qui est fini, ne peut comprendre [capere] l’infini[71]. » Dans ces textes est manifeste la distinction entre la possibilité d’être divisé (divisibilité) et la division effective. La contradiction soulevée par Leibniz n’a plus lieu d’être si l’on répartit l’indécidabilité du nombre infini dans la division et la décidabilité d’un nombre infini de parties dans la seule divisibilité, qui est aussi peu concurrente de la première que la puissance de l’acte.

C’est ainsi que l’indécidabilité de l’existence du « nombre infini » lui donne un statut d’indéfini — ce dont on ne peut prouver les bornes — puisqu’on ne peut le prouver infini : « Et il suppose aussi qu’il ne peut y avoir de nombre infini, etc., ce qu’il ne saurait prouver non plus[72]. » Pour cette raison, et de la même manière que « parce que nous ne saurions imaginer tant d’étoiles que Dieu n’en puisse créer davantage, nous supposerons que leur nombre est indéfini, et ainsi du reste[73] », le « plus grand nombre » reste indéfini. L’Entretien confirmera cette conclusion — tout en manifestant, une fois de plus, la dépendance des mathématiques à l’égard de la physique — en ajoutant, comme une preuve supplémentaire : « Ce nombre infini ne se rencontre-t-il pas dans la division de la quantité, etc.?[74] », alors que la divisibilité de la matière en question est indéfinie et non infinie.

Conclusion : les raisons de la prudence cartésienne

La question de l’infinitésimal exprime de manière paradigmatique la prudence de Descartes face au problème de l’infini en mathématiques. Conclure sur ce point implique maintenant d’explorer les raisons supposées de l’esquive cartésienne, afin de comprendre pourquoi Descartes s’est tant évertué à contourner soigneusement toute manifestation de l’infini en mathématiques : quel est donc le moteur de la prudence cartésienne?

Certains voudraient y voir des raisons internes aux mathématiques ou à la physique, dans le seul but de trouver chez Descartes une autorité de plus à la légitimation de l’indépendance du scientifique par rapport au philosophique, voire même du logique par rapport au métaphysique. Mais dans le cadre de l’histoire de la philosophie, laquelle commande de ne pas interpréter l’auteur au-delà de ce qu’on y peut lire, et particulièrement dans le cas de Descartes, il est absolument incontestable que l’indéfini mathématique présuppose l’indéfini physique, lequel présuppose à son tour l’infini divin, et que, de cette manière, on ne peut raisonnablement y comprendre une quelconque indépendance qu’en la posant soi-même de sa lecture. Nous limitant, pour notre part, aux textes cartésiens, il est aisé de montrer, de trois manières, comment la fuite de Descartes face à la question de l’infini en mathématiques est liée à des impératifs métaphysiques, comme tous les grands commentateurs de Descartes le reconnaissent sans peine.

D’abord, on peut réaliser la dépendance de l’indéfini mathématique envers l’infini divin, par le seul choix du vocabulaire qui nous contraint à ne parler de l’infini mathématique qu’en terme d’indéfini, parce que Dieu seul, qui est passé avant, pouvait ravir l’infini. L’indéfini étant ainsi nommé par défaut, pour désigner tout ce qui nous semble infini sans être Dieu, donc sans l’être positivement, l’indéfini mathématique souffre d’une dette envers l’infini divin au moins linguistique.

Ensuite, lorsqu’Yvon Belaval écrit : « On remarque quelles idées se retrouvent toujours dans l’esprit de Descartes lorsqu’il aborde le problème du plus grand nombre : l’idée de Dieu, celle d’une puissance de nombrer, celle du nombre lui-même et celle, enfin, de l’existence de ce nombre[75] », il faut comprendre l’ordre de l’énumération comme n’étant pas hasardeux. L’idée de Dieu est en effet d’abord là, toujours antécédente, comme l’exige l’ordre des raisons dans les Méditations : c’est uniquement parce que j’ai en moi l’idée de Dieu et que de cette manière je peux démontrer son existence, que je pourrai faire de Dieu un principe épistémologique dont la véracité permettra, dans une dialectique descendante (application), de refonder la possibilité même de la science, dont le nombre fait partie. C’est ainsi que « cette puissance de nombrer confirme la preuve de Dieu. C’est par elle que je puis produire les nombres, mais cette cause immédiate du nombre est elle-même l’effet d’une cause supérieure, car je ne suis pas cause de moi, ni cause de ma conservation[76] ». De ce point de vue, parce que l’existence de Dieu est condition de mon idée du nombre, l’infini divin est condition de l’indéfini mathématique.

Enfin, cela est aussi aisément démontrable par l’indéfini physique, en utilisant la transitivité du syllogisme suivant : On sait que l’indéfini physique dépend de l’infini divin, or l’indéfini mathématique dépend de l’indéfini physique, donc l’indéfini mathématique dépend de l’infini divin.

Que l’indéfini physique dépende de l’infini divin, nous l’avons montré ailleurs, et notamment à travers l’utilisation de Dieu dans les preuves de l’indéfinité de l’univers[77]. C’est pourquoi Françoise Monnoyeur n’hésite pas à déclarer : « La considération sur l’infinité du monde est envisagée par rapport à l’infinité divine et se trouve ainsi en étroite dépendance de celle-ci[78]. » En accord avec Michel Fichant[79], toute interprétation positiviste de la physique cartésienne, qui à vrai dire ne se fait plus guère depuis Louis Liard, qui la caractériserait par « l’absence de toute idée métaphysique »[80], doit être abandonnée, si l’on veut être fidèle aux textes cartésiens. Le métaphysique, dans l’oeuvre de Descartes, ne peut en être détachée sans blessures[81].

Que l’indéfini mathématique dépende ensuite de l’indéfini physique, c’est la définition même du célèbre géométrisme cartésien, qui fait poursuivre Belaval : « Chez Descartes, tout l’infini quantitatif, dont traitent les mathématiques, est réductible à l’étendue géométrique[82]. » On peut à cet égard remarquer que si Descartes a adopté la recta linea comme type de la quantité, c’est précisément pour ne pas connaître le nombre irrationnel en tant que nombre. Celui-ci, selon la définition de Cauchy, étant la limite des diverses fractions qui en fournissent des valeurs de plus en plus approchées, on comprend que Descartes n’ait pu, contrairement à Leibniz, participer à sa génération, d’une part pour le problème que lui pose la notion de limite, laquelle inclut le nombre irrationnel à la question de l’infini mathématique qu’il ne veut point résoudre, et d’autre part parce qu’il aurait fallu, pour cela, substituer au quantitatif cardinal le qualitatif ordinal. Et cette même étendue géométrique présuppose la matière et le mouvement de la physique : « Chez Descartes, cet infini — ou cet indéfini — mathématique, Dieu l’explique seulement en tant que cause : cet infini nous est donné dans l’essence de la matière et du mouvement, encore « plus aisé à concevoir que la ligne des géomètres »[83], parce qu’il engendre les lignes[84]. » On comprend ainsi que « Descartes ne posait le problème du plus grand nombre que par rapport au monde [85] ».

On peut donc légitimement conclure que, par extension, l’indéfini mathématique dépend de l’infini divin : « l’infini mathématique présuppose un infini de nature spirituelle[86] ». Vuillemin confirme : « Descartes peut donc bien être regardé comme l’un des fondateurs du Calcul intégral, techniquement parlant. Mais l’interdit métaphysique qu’il faisait peser sur la classe des transcendantes lui interdisait de donner droit de cité à sa découverte[87]. »

Ainsi, Descartes a développé sa pensée scientifique dans un espace soumis à ne pas pouvoir dépasser la voûte métaphysique; et c’est précisément par cette limitation qu’en partie « s’explique la fuite de Descartes devant toute spéculation mathématique sur l’infini, bien que son génie eût commencé à en explorer les voies[88] ». Cela ne suffit pas, pourtant. La prudence épistémologique de Descartes face à la question de l’infini, partagée d’ailleurs par nombre de penseurs de Copernic à Kant, est aussi et surtout la manifestation d’un esprit attaché à ne pas transgresser l’ordre des raisons[89]. Le moteur de sa prudence reste une contrainte, mais elle est double : voûte métaphysique et rigueur méthodologique.