Le drame subjectif de Cantor

Virginia Hasenbalg


I regret that it has been necessary for me in this lecture to administer such a large dose of four-dimensional geometry. I do not apologise, because I am really not responsible for the fact that nature in its most fundamental aspect is four-dimensional. Things are what they are.
A.N. Whitehead, The concept of nature (1920)

Il se peut que la spatialité soit la projection de l’étendue de l’appareil psychique. Aucune autre déduction possible. Psyché est étendue, mais n’en sait rien.
S. Freud, Résultats, Idées, Problèmes (1938)

L’éclosion du discours scientifique à la fin du XIXe siècle a bouleversé radicalement le champ du savoir en introduisant des nouvelles vérités qui allaient à l’encontre du bon sens partagé et qui donnaient jusque-là consistance au lien social. Les découvertes de Pasteur, entre autres, démontrant que le vivant ne pouvait pas être issu à volonté du non-vivant comme le soutenait la théorie de la génération spontanée bien ancrée dans les croyances de l’époque, lui ont attiré l’animosité de l’establishment médical.
Dans Science et Vérité Lacan évoque le drame subjectif du savant pouvant quelquefois l’amener à la folie. Cantor, éminent mathématicien finissant sa vie à l’asile, nous servira d’appui pour interroger cette subjectivité. La fin du XIXe et le début du XXe siècle ont été un tournant pour les mathématiques. A.Warufsel, auteur d’ouvrages de référence, écrit en 1969 sur cette période en évoquant les circuits de course automobile, où aux longues lignes droites succèdent des épingles à cheveux, ce qui oblige à jouer adroitement des rapports de la boîte pour ne pas être projeté hors de la piste avant de pouvoir reprendre le régime de pleine puissance. Les mathématiciens professionnels sont de nouveau sur la ligne droite, non sans avoir, au début de ce siècle, cassé quelques moteurs ou perdu quelques pilotes (1).
Quelle est l’incidence de ce nouveau savoir si radical sur le sujet ? Et, est-il possible de l’appréhender ?


Cantor mathématise l’infini actuel, qu’il dénomme Aleph1, définissant ainsi une toute nouvelle approche de l’objet mathématique qui depuis les Grecs ne pouvait pas se passer de l’appui donné par la notion de mesure. Cette mesure assurait une prise sur le monde sensible.
Dès le début de ses recherches Cantor utilise la géométrie projective (Steiner 1796-1863). Il en emprunte même le signifiant de « puissance » pour nommer son hypothèse de la puissance du continu. La géométrie projective démontre que dans le coté d’un carré, à savoir un segment, il y a autant de points que dans sa surface, puisque tous les points de celle-ci peuvent être projetés sur le segment. Il en découle que la partie peut être aussi grande que le tout, ce qui bouscule les certitudes fondées sur la perception.
Ceci n’est pas sans rapport avec la logique du signifiant, qui relève elle aussi d’un domaine au-delà de ce qui peut être saisi dans le monde physique. Il n’est pas surprenant qu’en parlant du signifiant Lacan évoque l’infini actuel : Le signifiant c’est ce quelque chose qui, à entrer dans le réel, y introduit le hors de mesure, ce que certains ont appelé l’infini actuel (Lacan, 5/1/66).
Or, cet infini actuel, dont parle Lacan, relevait jusqu’à Cantor de la théologie ou de la philosophie. En le définissant mathématiquement Cantor le soustrait à la sphère métaphysique, pour en faire un objet scientifique. Cette définition mathématique est basée sur une déduction rendue possible grâce à la prise en compte des nombres irrationnels, ceux qui ne peuvent pas s’écrire sous forme de fraction et qui ont un nombre infini, imprévisible et non répétable de décimaux.
Dès les Grecs, il se pose à l’intelligence humaine une question purement théorique mais qui touche à l’essence même des mathématiques : existe-il une fraction qui soit exactement la mesure de la diagonale du carré du côté unité ?(2)  Des nombres irrationnels comme racine de 2, Pi, le nombre d’or, pour ne citer que les plus anciennement connus, sont des nombres que nous ne pouvons pas finir d’écrire. Pour Pi, par exemple, les ordinateurs ont calculé au jour d’aujourd’hui 6 milliards de décimaux. On pourrait dire que ce sont des nombres qui oscillent entre le « ne cessent pas de s’écrire »  (de l’ordre du nécessaire) et le « ne cessent pas de ne pas s’écrire (de l’ordre de l’impossible).
 Il y a là donc, un impossible qui pour les Grecs ne pouvait pas être démontré. Il a fallu attendre Cantor pour faire du nombre irrationnel un objet mathématique. Les conséquences de cette démonstration sont énormes(3).

Lorsque l’impossible n’est pas démontré, cela permet de vivre dans l’espoir de trouver le rapport rationnel, le ratio, la fraction qui le représente. Les Grecs l’avaient seulement pressenti, ce qui leur permettait de vivre dans l’illusion du possible, dans l’illusion que c’était possible de trouver la fraction pour calculer racine de 2, ou que c’était possible de trouver le dernier décimale qui allait permettre de tomber sur le chiffre qui arrêterait la suite. Cette illusion peut être entendue comme l’alibi de l’impuissance exprimée soit dans la temporalité : ce qui n’est pas possible aujourd’hui, peut-être le sera-il plus tard, idée que, d’ailleurs, la science ne cesse de valider. Soit dans la spatialité : ce que je ne sais pas, peut-être l’Autre le saura-t-il. S’agit-il de la place de Dieu, qui faisait de l’infini actuel un tabou, ou de la fonction du sujet supposé savoir ?
En mathématisant le domaine jusqu’alors réservé à la religion - seul le domaine de Dieu pouvait recouvrir l’infini « en acte » - Cantor, franchit un seuil, non sans payer le prix.

Jusqu’à Cantor, il n’y a pas eu à assumer cet impossible. Il n’a y pas eu à se soumettre aux conséquences logiques de cette démonstration. Grâce à lui, la coupure avec le monde grec est pour ainsi dire accomplie. La notion même de coupure définie par Dedekind, son collègue et ami, inaugure ce bouleversement. En effet, Dedekind trouve une propriété ou fonction des nombres irrationnels qui retourne le sens qu’on leur donnait jusqu’alors. Au lieu d’imager l’insaisissable, grâce à la quantité infinie de décimaux, un irrationnel va définir une frontière, une limite séparant deux champs. La suite infinie de décimaux instaure une « coupure » bordée de deux rationnels, celui qui est juste avant et celui qui est juste après, qui appartiennent à deux classes ainsi séparées.  
L’infini potentiel, appelé par Cantor Aleph0, restera, en revanche, celui des entiers, des rationnels, composant une suite définie par une fonction, n+1 pour les entiers, par exemple. C’est l’infini qu’on imagine intuitivement comme inatteignable parce qu’infiniment loin. Cet infini qui se caractérise aussi par le fait d’être dénombrable est le seul reconnu par les mathématiciens appartenant au courant finitiste.
Gauss parle en 1831 de son horreur quant au concept de l’infini actuel qu’il appelle « complet »: Je conteste l’utilisation d’une grandeur infinie comme un tout complet (...) L’infini n’est qu’une façon de parler, son sens véritable étant celui d’une limite que certaines fractions (ratios) approchent indéfiniment, tandis que d’autres l’éloignent sans restriction.(5)
 En 1886, Cantor se montre à la fois son accord et son désaccord vis-à-vis de la position de Gauss: malgré la différence essentielle entre les concepts d’infini potentiel et actuel - le premier signifiant une grandeur finie, variable qui augmente au-delà de toutes les limites finies, tandis que l’autre est une grandeur fixe, constante qui se trouve au-delà de toutes les grandeurs finies -  il arrive qu’il soient trop souvent confondus. (5)
Gauss ne peut penser l’infini qu’en termes de complétude et de distance. Le loin et le proche dévoilent qu’il pense en termes d’infini potentiel, ce qui n’est peut-être pas sans rapport avec sa formation de physicien ancrée dans le monde sensible.
Ce que Cantor nous dit c’est que l’infini actuel est un point fixe au-delà de toutes les grandeurs finies. Ceci n’est pas sans évoquer le concept du phallus comme point fixe. Mais, est-ce dans sa nature de signifiant que Cantor peut le pressentir ?


Aucun commentateur de la vie de Cantor ne fait l’économie de Kronecker, son professeur à Berlin et l’un des précurseurs de l’école constructiviste, qui a violemment refusé ses découvertes. Kronecker, représentant marquant du courant finitiste largement dominant à l’époque considérait le savoir de Cantor comme relevant soit de l’imposture soit du blasphème.

Une phrase lapidaire résume sa position : « Dieu a créé les nombres entiers ; le reste est l’oeuvre de l’homme ». Selon Kronecker, on devait construire les mathématiques à partir des nombres entiers, en n’utilisant que des combinaisons arithmétiques finies de ces nombres entiers. (...) Il s’opposa à toutes les définitions d’objets mathématiques où intervenait la notion de limite. Selon lui, il aurait même fallu abandonner les nombres irrationnels que les mathématiciens acceptaient depuis des siècles, tant qu’on ne saurait pas les construire à partir des nombres entiers naturels, comme on le faisait pour les nombres rationnels. (J.Dauben)(4). La position de Kronecker, reflétant celle de son époque, se fonde sur l’irréfutable. Un analyste ne restera pas indifférent à la certitude donnée par ce signifiant « entier », ou celui de « rationnel ».
Cantor connaissait la position de son ancien professeur. Il savait qu’elle garantissait aux démonstrations mathématiques une sécurité et une correction absolues.(...) Toutefois, Cantor pensait que la position de Kronecker était outrée car elle censurait de manière trop absolue la plupart des progrès en mathématique ; en outre la position constructiviste entravait les progrès des mathématiques en enfermant l’innovation dans un carcan méthodologique(5).
Si Kronecker était persuadé du bien-fondé de sa vision, en revanche Cantor avait du mal à croire lui-même à ce qu’il formalisait « malgré lui », comme si l’articulation purement logique qui s’imposait à lui le devançait. Je le vois, mais je ne le crois pas, écrit-il dans une lettre à Dedekind, en lui demandant de confirmer la pertinence de sa découverte. Lacan évoque « la plume ingénue de Cantor ». (6)
Weierstrass écrira : Kronecker utilise son autorité pour proclamer que tous ceux qui jusqu’à maintenant ont travaillé pour établir la théorie des fonctions sont des pêcheurs devant le Seigneur. Il le cite : « Si le temps et la force me sont donnés, je montrerai moi-même au monde mathématique que non seulement la géométrie mais aussi l’arithmétique peuvent désigner la voie vers l’analyse et certainement d’une manière plus rigoureuse. Si je ne peux pas le faire moi-même, ceux qui viendront après moi le feront ... Et ils reconnaîtront l’incorrection de toutes ces conclusions avec lesquelles la soi-disant analyse (mathématique) travaille à présent ... C’est Weierstrass lui-même qui souligne les « tous » employés par Kronecker, dans un courrier qu’il adresse à Sonja Kowalewski, en 1885, sa disciple (5). Son ton tient plus du registre de l’idéologie que de celui de la science. Mais la limite entre science et conviction est bien mince surtout quand le débat s’inscrit dans une longue histoire et concerne la conception même des mathématiques.  L’opposition entre finitistes et infinitistes date de l’Antiquité et elle est régulièrement évoquée par tous les auteurs consultés. L’enjeu prend une dimension à proprement parler paranoïaque autour de l’idée de ce qu’est un nombre : est-ce que les irrationnels existent ?
Bell utilise une expression intéressante pour les analystes : il parle des mathématiciens du « nous pouvons », qui caractérise les finitistes, et ceux du « il existe » propre aux infinitistes. Pour les premiers, les mathématiques sont une pure invention humaine. Pour les infinitistes les mathématiques ont une existence propre et l’on rencontre certaines vérités éternelles des mathématiques dans le voyage de notre vie. Ces derniers disent il existe, les autres ripostent prouvez-le !  Bell explicite ce clivage avec une citation du Nouveau Testament : le Christ affirme que le Père existe, et Philippe répond, Montre nous qu’il existe et cela nous suffira. (5)

 Compte tenu de ces divergences, Kronecker a bloqué nominations et publications dans son milieu d’influence, qui n’était pas mince. Le climat d’hostilité allait jusqu’à l’insulte. Ce n’est pas tant la personne de Kronecker qui nous importe mais ce qu’il représente par son pouvoir réel : la résistance du lien social à l’inconfort introduit par les avancées de Cantor.
Il y a chez Cantor du courage ou de la folie pour soutenir envers et contre tous sa thèse, affirmant une nouvelle définition de l’impossible. Dans la production de son mathème, on perçoit une façon de ne pas céder sur son désir.  Or, pour cela, il déplace « l’indécidable » qu’il rencontre dans sa formalisation mathématique sur des enjeux où le sens, la signification, l’imaginaire lui permettent de prendre une position « moïque » : son délire. Sa position à la faveur de Bacon dans le débat Bacon-Shakespeare, et vers la fin de sa vie, sa thèse théologique où il affirme sa théorie sur le vrai père de Jésus en sont le témoignage. Ses délires ne l’ont pas empêché de continuer jusqu’à la fin de sa vie à mener en parallèle une recherche acharnée. Il s’agit de l’hypothèse de la puissance du continu, qu’il n’a pas pu démontrer.



Beaucoup d’auteurs se sont intéressés à la vie de Cantor. Pour un analyste, l’apparition d’un délire paranoïaque chez celui qui a introduit ce changement radical dans la conception des mathématiques pose la question de la subjectivité, de sa constitution et de son nouage.
Freud disait que les névrosés vivent dans un monde où seulement la monnaie névrotique se cotise. La subjectivité psychotique, a-t-elle permis à Cantor de s’affranchir des limites de la névrose, et de percevoir avec acuité ce qui autrement relèverait du refoulé ?  Ou bien, sa paranoïa a-t-elle été la conséquence ultime du type de rapport au savoir que ces découvertes impliquaient ? Autrement dit, s’agit-il d’une psychose qui aurait favorisé ses avancées mathématiques, ou bien, est-il pertinent d’imaginer que la production d’un savoir radicalement nouveau puisse induire un décapitonnement chez celui qui sillonne le dit savoir pour la première fois ?
 La distinction que fait Lacan dans le séminaire de l’Acte entre invention et découverte, introduit ici la question de la nature du savoir produit : Si ce savoir existait avant d’être découvert, qui le savait ? (Apparaît ici de nouveau la question de l’infini actuel comme lieu où se tient ce(lui) qui sait, Dieu ou le sujet supposé savoir).
Est-il un savoir qui découle de l’inconscient de l’auteur – comme le perçoit Lacan quand il « lit » Descartes, Pascal ou Marx. La plus-value de Marx indique qu’il en sait un bout, inconsciemment, sur le plus-de-jouir que Lacan y déchiffre. La lecture à partir du discours psychanalytique ne fait pas l’économie du sujet en amont ou en aval de son oeuvre, du sujet qui dévoile à son insu et à travers de l’écriture sa structure subjective.
 
La nature du savoir mathématique éminemment pauvre en imaginaire fragilise-t-elle le sujet qui sort des sentiers battus ?
Au début de son enseignement, Lacan évoque l’usine hydro-électrique pour dire qu’il s’agit d’un réel qui n’est pas une force ou énergie obscure du monde sensible, mais du signifiant incompris déjà là. C’est la position analytique, rendue possible à un moment donné : le symptôme est un message à déchiffrer, qui s’adresse à l’analyste, à de l’analyste.
Un savoir qui ex-siste dans le réel c’est, dit Lacan, la série de lettres à l’origine de la production de l’énergie. Le réel est ainsi défini comme le résultat de l’opération du symbolique, comme résultat de l’incidence du signifiant. Ceci veut dire qu’il a fallu qu’un forçage symbolique traduise le monde sensible en une concaténation de lettres. Or, le mathématicien de la fin du XIXe siècle, n’est-il pas justement le « traducteur », celui qui a frayé ce qui permet à Lacan de faire cette métaphore ?
Mais qu’en est-il du traducteur lui-même, est-il lui-même traduisible en une série de lettres ? Peut-il lui-même par son savoir aboutir à sa propre chute du monde sensible ? Autrement dit, est-ce possible d’en arriver là sans passer par une analyse ? Ou alors, la suite de lettres de son patronyme demeuraient lettre morte pour lui.
Si Cantor a « lu » un déjà là incompris, en reprenant l’expression de Lacan, organisé en une suite de lettres ou de signifiants, où se trouvait-il ce savoir ? Peut-on dire que c’était une perception de l’appareil psychique ? Etait-ce de l’inconscient ? Et, était-ce un savoir agencé par la signification phallique ?



Il faudrait s’interroger sur le socle même de la fiction phallique de son époque, celui du consensus social et de l’ordre établi à la fin du XIXème siècle. Et aussi sur celui de son propre nouage, parce qu’il faut être fou pour être allé jusqu’où il est allé, et en plus, personne n’était en mesure d’accuser réception de son travail. Dans l’analyse, il est impossible d’envisager une avancée dans le savoir de la structure sans transfert, sans l’adresse à l’Autre : ce lieu dont le dernier mot est d’être irréductiblement vide. Les propos de Lacan sur le discours de la liberté dans son rapport à la psychose (9) mériterait d’être longuement développé, d’autant plus que Lacan l’évoque dans le rapport à la science, et à Cantor lui-même.
L’infini actuel bouleverse la foi unique dans la logique des entiers, des rationnels, des naturels... N’y avait-t-il pas dans sa formalisation la perception d’une logique autre possible? D’une logique pouvant se rapporter à l’altérité d’une façon tout à fait nouvelle et différente de celle consacrée à l’époque ? En dernier lieu, elle serait celle qui caractérise l’ordre du signifiant, tel que Lacan le suggère (5/11/66).
Cantor s’attaquait certes aux fondations d’une maîtrise relevant du carcan méthodologique, mais en tant que maîtrise porteuse de l’aval du lien social ces fondations ne donnaient pas moins d’assise au signifiant phallique, tel qu’il pouvait fonctionner dans le lien social avant l’éclosion du discours scientifique moderne. Il s’agit là d’un S1 qui à ce titre décide de ce qu’il y a à rejeter, comme Kronecker ne s’est pas privé de le faire. Le lien social lui-même ne pouvait que pressentir comme menaçant la formalisation des nombres irrationnels qui faisant rentrer dans le domaine des nombres un étranger ou un hétéros. (La distinction entre l’hétéros et l’étranger nécessite un plus long développement. Il est l’enjeu de la leçon sur le discours de la liberté, discours que Lacan associe autant à la psychose qu’aux mathématiques)

Est-ce que Cantor savait que son savoir allait mathématiser plus tard une issue à des impasses de la subjectivité, en faisant rentrer dans le cadre du possible ce qui ne l’était pas jusqu’alors ?
- La possibilité structurale d’un infini en acte permet de concevoir un terme à la logique de l’infini potentiel propre à la procastination de l’obsessionnel (La névrose obsessionnelle, Charles Melman).
-Le « transfini de la demande » (L’Etourdit) permettrait de clore les tours innombrables de la demande sur le tore.
- La prise en compte du dénombrable propre à l’aleph zéro situe le pas-tout propre au féminin et au désir de l’analyste ? (L’Acte psychanalytique)...

Il semblerait que le concept d’infini en acte laïcisé, en tant que borne inatteignable dans un système fermé, conceptualise le phallus. Mais il a fait défaut chez celui qui a apporté ce concept à la science. Etait-ce à cause d’une axiomatique qui s’enchaînait dans le hors sens propre aux mathématiques ?

Le drâme subjectif de Cantor pose ainsi des questions qui méritent d’être largement débattues et développées.




Je remercie les collègues mathématiciens et analystes Perle Israël et Henri Cesbron-Lavau pour leur aide. Sans leur soutien, ce travail n’aurait pas pu aboutir.

Notes

(1) Warufsel André, Les mathématiques modernes, Editions du Seuil, 1969. (page 6)
(2) Deledicq A, Maths, Editions de la Cité, Bordas, 1998.
(3) Idem
(4) Dauben J. Georg Cantor, revue Pour la science, 1992
(5) Bell E. T., Men of mathematics, Simon ans Schuster, 1930
(6) La plume ingénue de Cantor qui ouvre une voie sensationnelle, Le savoir du psychanalyste, 4/5/72
(7) Cette division est évoquée par Bell, Dauben et Warufsel
(8) Lacan J. L’acte psychanalytique,
(9) Dans Question préliminaires d’un traitement possible...(Ecrits), qui renvoie à la leçon du 8 février 1956, Structures freudiennes des psychoses.