Dominique Pradelle : Intuition et idéalités. Phénoménologie des objets mathématiques (III/IV)

Troisième partie

 

Quelques questions pour prolonger les remarques de Pradelle

Quittons ici le terrain de la restitution stricte de Pradelle tout en restant dans le cadre proposé par lui (principe de régionalisation et d’historicisation de la validité, remplissement discursif et démonstratif) pour poser quelques questions sur les façons de prolonger ses analyses à d’autres champs mathématiques.

Pradelle déplace en effet considérablement les procédures husserliennes, tout en maintenant cependant le cadre général de sa stratification, très lié à la querelle des fondements et aux élaborations qui y ont fait suite.

 

Quelques remarques sur l’histoire des mathématiques dans la première moitié du XXe siècle   La révolution des fondements n’est qu’un des aspects des transformations qui traversent les mathématiques dans la première moitié du XXᵉ siècle. Elle se superpose à d’autres déplacements décisifs.   En analyse, Lebesgue ne se contente pas d’étendre la théorie de l’intégration : en faisant passer au premier plan la mesure, les ensembles mesurables, l’approximation par fonctions simples et les espaces fonctionnels L¹, L², Lᵖ, il reconstruit le concept même de fonction, d’intégrale et d’infini.   En parallèle, la topologie et l’analyse fonctionnelle font émerger de nouveaux types d’objets : espaces de Hilbert, espaces de Banach, dualité, opérateurs continus ; l’objet mathématique n’est plus seulement une grandeur ou une figure, mais un espace fonctionnel, un système de relations, un domaine de convergence et de transformations.   Dans le même temps, la topologie générale et la topologie algébrique dégagent des notions comme compacité, complétude, séparation, homotopie, homologie, invariants, et déplacent l’intelligibilité du côté des propriétés structurelles.   La géométrie elle-même se transforme sous l’effet de l’algèbre moderne : anneaux, idéaux, modules, morphismes, théorie des groupes, représentations, groupes de Lie, géométrie algébrique de Zariski.   L’algèbre cesse alors d’être essentiellement calculatoire pour devenir une science de structures. Ce déplacement trouve avec Bourbaki une formulation unificatrice : non pas subordonner l’ensemble des mathématiques à la seule logique des fondements, mais expliciter leur langage commun — ensembles, fonctions, espaces, structures — et imposer un régime dans lequel l’unification devient avant tout conceptuelle.   Ainsi, ce qui se joue dans la première moitié du XXᵉ siècle n’est pas une seule crise des fondements, mais une transformation générale du champ mathématique : changement des objets, des méthodes, des critères d’intelligibilité.

 

Ces mathématiques ont redonné à la pratique mathématique une certaine sécurité dans la manipulation de ses objets et de ses questions. En constituent-elles cependant toujours le cœur ? Certains mathématiciens pourront les juger datées.

Cet aspect ne remet d’ailleurs pas en cause la démarche de Pradelle. Celui-ci ne revendique pas une élucidation phénoménologique de toutes les mathématiques mais la mise au point d’une phénoménologie éprouvée, dans des configurations historiques particulières, où les objets mathématiques sont encore articulables en termes de structures, de systèmes formels, de champs d’objets définis par des règles de preuve, de continuité, d’infini. Une fois celle-ci constituée, voyons progressivement les conditions de son application à d’autres champs.

 

1. a) Au delà des couches husserliennes

Une première question à poser serait ici celle du fil conducteur des trois couches husserliennes.

Pradelle a déjà montré que celles-ci correspondaient davantage à des pôles de questionnement intriqués qu’à des matériaux chaque fois pré-donnés. On peut alors se demander ce que deviennent ces trois couches dans les mathématiques actuelles. On peut également se demander si d’autres distinctions ou polarités jouant un rôle plus opérant ne peuvent pas être phénoménologiquement explicitées, et les analyses descriptives des modalités de remplissements réorientées vers ces nouvelles polarités.

Il semble ainsi que l’évolution de la pratique mathématique a conduit à passer davantage encore  d’un rapport vertical entre couches (même réciproque) à un questionnement structurel portant sur les critères de transférabilité et d’équivalence structurelle entre champs englobant dans leur processus les questions fondationnelles. Bourbaki propose un régime dans lequel la structure devient l’unité de base de l’intelligibilité mathématique : non plus seulement “ce qui est vrai dans un domaine”, mais “ce qui est invariant sous isomorphisme, transportable entre présentations, reconnu comme même structure à travers des réalisations diverses”.

Que devient alors le remplissement dans ce régime structuraliste ?

Lautman pourrait constituer sur ce point un interlocuteur de choix pour la phénoménologie. Celui-ci lit en effet  les mathématiques modernes à partir de schèmes dialectiques : local/global, intrinsèque/extrinsèque, discret/continu, symétrie/dissymétrie, tout/partie — qui traversent des théories très différentes. La méthode phénoménologique redéfinie par Pradelle pourrait tenter de ressaisir ces polarités comme elle l’a fait avec les couches husserliennes (en particulier les critères d’existence ou de reconnaissance de structures).

Les travaux de Pierre Lochak pourraient constituer un autre terrain de mise à l’épreuve de la phénoménologie des mathématiques redéfinie par Pradelle. Lochak identifie rien moins que huit polarités dans le travail de Grothendieck. Le tournant grothendieckien, souligne-t-il, ne doit pas être compris d’abord comme un changement de fondation, mais comme l’apparition d’un nouveau régime de matérialité mathématique, qu’il appelle « matière fonctorielle ». Que signifie, noétiquement, cette nouvelle matérialité ? Sur quelles formes de remplissement s’appuie-t-elle ?

 

1. b) Le retour transformé des questions fondationnelles

 

Une question en retour serait celle de la persistance et des transformations des questions « fondationnelles » posées par Husserl.

Dans les mathématiques contemporaines, les démonstrations de cohérence relative ont cessé d’être « métalogiques «  au sens strict : elles deviennent internes à la pratique conceptuelle, intégrées à la structure même du discours mathématique. La plupart des chercheurs n’attendent pas une preuve métalogique de consistance avant de travailler dans un cadre. Il y aurait des analyses phénoménologiques à tenter pour déterminer, à partir d’exemples, à quelles conditions et de quelle façon les mathématiciens estiment qu’un cadre théorique est suffisamment sécurisé pour y travailler, ou comment ils travaillent à sa sécurisation.

Un autre sujet d’investigation serait la façon dont des cadres mathématiques contemporains très  abstraits reposent la question de la consistance. Un candidat à une étude de ce genre serait la théorie des types homotopiques (Homotopy Type Theory, HoTT) qui est parfois considérée comme une reprise (certes très éloignée et profondément transformée) de la problématique des fondements, où le métalogique deviendrait lui-même objet mathématique.

Un autre champ à investiguer serait la façon dont les questions de la logique pure peuvent être reprises au sein de champs mathématiques distincts, comme la topologie. Selon Frédéric Patras ainsi « (…) les logiciens et les géomètres pensent aujourd’hui ce type de distinctions en termes de 
logique intuitionniste : une structure topologique sous-tend les opérations logiques et permet de comprendre les phénomènes d’insaturation du domaine du démontrable[1] ». En quel sens ces structures topologiques permettent-elles de donner de nouvelles formes de remplissement aux questions classiques de consistance ? Quel sens peut-on donner au concept d’intuition mobilisé par Patras, qui ne relève ni de l’intuitionnisme au sens strict, ni de l’intuition catégoriale au sens husserlien, mais de la question des conditions structurelles assurant un « remplissement » satisfaisant, donnant aux objets posés une matérialité permettant de les manipuler de façon « riche » et « intéressante ».

 

Retour à Pradelle. Comment se donner l’infini comme objet ?

Revenons maintenant aux thèses de Pradelle et suivons-le sur un point précis : la question de l’intuition catégoriale de nombre et des problèmes posés par l’infini (actuel) à la question de l’intuition et du remplissement catégorial.

Ce détour est d’autant plus pertinent qu’il permet de confronter directement l’élaboration phénoménologique husserlienne de l’intuition à la façon dont celle-ci est théorisée à son époque par Brouwer (et autrement Poincaré) et ainsi d’en pointer les écarts –  puis, de prolonger et d’accentuer ce déplacement.

Pradelle commence pour aborder cette question par rappeler la théorie husserlienne des nombres et la façon dont celui-ci cherche à expliquer différents niveaux de constitution de la série numérique.

Dans la Philosophie de l’arithmétique, Husserl raisonne comme si la capacité à former des ensembles restait toujours liée à une décomposition en unités, à des additions successives de « 1 ». La pensée numérique se construit ainsi sur un mode sériel, un pas après l’autre, ce qui limite naturellement la saisie intuitive à un petit nombre d’objets ; Husserl estime d’ailleurs qu’au-delà d’une douzaine environ, la perception immédiate d’un ensemble se défait, relayée alors par une intuition diffuse de la multiplicité (liée à des configurations que la conscience perçoit comme des ensembles potentiels, par exemple un sac rempli de pièces), et des procédés de calcul, substituant à l’intuition une pratique réglée. A ces quantités non représentables de manière distincte mais descriptibles par des procédures réglées succèdent ensuite les notations purement symboliques des mathématiques de l’infini. Dans cette première élaboration, Husserl lie la finité du champ des objets mathématiques accessibles à la finitude de la conscience. La rupture  essentielle semble donc intervenir avec les limites de l’intuition immédiate, à la douzaine. Toutefois Husserl est conscient qu’on ne peut pas placer dans une même continuité les nombres de l’arithmétique et les infinis, qu’il intervient du passage de l’un à l’autre une rupture plus essentielle, concernant la définition même des procédures de distinction des objets et d’application des opérations.

 

Devenu cantorien à partir des années 90[2], Husserl reconnaît la priorité logique du concept de cardinal sur celui d’ordinal et s’attache à distinguer le statut des actes qui lui sont propres – de cette façon, il déplace le champ de l’intuition en déplaçant la caractérisation des actes de conscience nécessaires pour l’engendrement et le maniement des cardinaux (lesquels ne sont plus liés à des actes au sens psychologique effectivement accomplis, mais à des actes en tant que pensés). Cette conception le conduit à adopter quant à, par exemple, l’axiome du choix, une attitude très différente des positions finitistes exprimées par Brouwer, Borel, Lebesgue ou Baire. Il maintient certes une exigence de constructibilité, mais, souligne Pradelle, à reconfigurer à neuf en tant que norme, et non réductible à une forme pré-déterminée d’enchaînements d’actes de conscience. Le choix ne doit pas être considéré comme une opération mentale effective, mais comme une opération pensée dans sa possibilité. Le remplissement catégorial de l’axiome du choix est alors lié non à son contenu mais à sa position d’axiome, selon les conséquences dans un système donné de son admission ou de son rejet (dont Pradelle donne différents exemples, par exemple sur les relations d’implication réciproque de la continuité définie au sens de Cauchy ou de Heine selon l’admission de l’axiome du choix).

Une fois encore, cela conduit à renoncer à toute zone de sécurité absolue pour les mathématiques, qui restent une discipline en travail ne pouvant s’établir une fois pour toutes sur la base d’invariants qui resteraient hors de portée de toute reprise et rethématisation.

 

Ordinaux, cardinaux, libres variations   La théorie des ordinaux et des cardinaux constitue non seulement une exploration de l’infini mais un excellent exemple de dépassement et de redéfinition des cadres.   Bien que Pradelle ne la prenne pas spécifiquement comme exemple, nous nous permettons ici un détour illustratif par elle. Celui-ci, certes technique, n’a pas pour but d’entrer dans les détails de la proof theory pour elle-même, mais de rendre perceptible ce que signifie concrètement, du point de vue des pratiques mathématiques, le “débordement de cadre”.   La théorie des ordinaux repose d’abord sur deux schèmes génératifs fondamentaux : le successeur (α↦α+1) et le passage à la limite, c’est-à-dire la prise de l’ordre-limite d’une suite croissante. Ces mécanismes suffisent à engendrer une hiérarchie potentiellement indéfinie, mais seulement à l’intérieur d’un cadre syntaxique donné, c’est-à-dire à partir d’un certain répertoire d’opérations formellement définies.   À partir de ω, on peut former les produits itérés ω², ω³, … puis les puissances ordinales ω^ω, ω^(ω²), ω^(ω³), et ainsi de suite.   En prolongeant cette montée, on atteint ε0, le plus petit point fixe de la fonction α↦ωα. ε0 marque une première borne interne : non pas une fin absolue de la hiérarchie, mais le seuil à partir duquel les opérations +, ×, ^ ne suffisent plus, dans le cadre considéré, à produire de nouveaux ordinaux. C’est pourquoi ε0​ peut être lu comme une limite de générativité syntaxique, ou plus exactement comme un seuil d’analyse proof-théorique.   Pour aller plus loin, il faut enrichir le répertoire opératoire. C’est ce que fait Veblen en généralisant la logique des points fixes : φ0(α)=ωα, φ1​ énumère les points fixes de φ0, φ2​ les points fixes communs aux fonctions précédentes, et ainsi de suite.   La hiérarchie de Veblen systématise ainsi des niveaux d’auto-fixation de plus en plus élevés. Elle conduit à Γ0​, l’ordinal de Feferman–Schütte, qui borne classiquement le domaine atteignable par des définitions prédicatives. Au-delà, il ne suffit plus d’itérer des opérations dans un horizon déjà disponible : il faut autoriser des formes de définition plus fortes, des schémas imprédicatifs, ou, du point de vue proof-théorique, enrichir le système par de nouvelles règles (de formation, notations, schémas d’induction ou principes de réflexion).   Philosophiquement, l’opération est très intéressante.   Tant qu’il reste dans le domaine de la générativité syntaxique, le système explore les formes qu’il peut produire sans sortir de lui-même; mais chaque borne comme ε0​ ou Γ0​ force une reprise réflexive de cette générativité. Ce ne sont plus seulement des objets qui sont visés, mais les conditions de leur production. On pourrait dire, en langage phénoménologique, que l’acte noétique ne pose plus seulement une figure — ordinal, fonction, cardinal — mais doit aussi viser le champ dans lequel cette figure devient possible.   Ce que les proof-theorists décrivent comme l’introduction de nouvelles fonctions définissables ou de principes de réflexion peut ainsi être relu comme un déplacement du régime noétique lui-même.   Tant toutefois que l’on reste dans ces hiérarchies ordinales, on demeure dans le dénombrable : ces notations n’engendrent pas par elles-mêmes un nouveau cardinal; elles explorent un même univers de cardinalité ℵ0​.   Le passage à ω1​ et à ℵ1​ change alors de nature. Il ne consiste plus à prolonger un calcul syntaxique par itération, mais à poser, dans un cadre ensembliste, l’existence d’une taille d’infini qui n’est plus atteignable par les seules notations effectives précédentes. À partir de là, chaque saut cardinal — ℵ1 ​, ℵ2​, etc. — engage une nouvelle déclaration d’existence, et les grands cardinaux, loin d’être seulement des “objets plus grands”, introduisent des principes structurels nouveaux : réflexion, mesure, compactitude. Leur intérêt ne tient pas d’abord à leur grandeur intuitive, mais à la force logique et structurale des propriétés que leur existence rend démontrables.   On voit alors plus concrètement ce que veut dire ici “débordement de cadre”.   Un système pousse aussi loin qu’il peut les ressources de sa propre syntaxe; certains seuils obligent à changer les opérations, les règles, voire les axiomes d’existence eux-mêmes. Le mouvement mathématique ne consiste donc pas seulement à ajouter des objets dans un espace déjà donné, mais à reconfigurer les conditions de leur apparition.   C’est en ce sens que la théorie des ordinaux, des cardinaux et des bornes proof-théoriques fournit un exemple particulièrement net de cette discipline “en travail” que Pradelle met au jour : non un domaine stabilisé une fois pour toutes, mais un champ où la générativité se réfléchit, se reprend et se transforme à même ses propres limites. On ne peut éliminer du concept d’infini les zones d’ombre projetées par la représentation du champ où les actes mathématiques s’enchaînent et se reproduisent[3].

 

***

[1]  F. Patras, « Pourquoi les nombres sont-ils “naturels” ? », dans Luciano Boi, Pierre Kerszberg et Frédéric Patras (dir.), Rediscovering Phenomenology, Phaenomenologica 182, Dordrecht, Springer, 2007, p. 357-386, ici p. 366.

[2]  Cantor participe d’ailleurs au jury de la thèse de Husserl «Über den Begriff der Zahl. Psychologische Analysen (1887),».

[3] Reprenant un terme de J.-T. Desanti dans La philosophie silencieuse, Paris, Seuil, 1975, p. 282.