Le drame subjectif de Cantor
Virginia Hasenbalg
I regret that it has been necessary for me in this lecture to administer
such a large dose of four-dimensional geometry. I do not apologise, because
I am really not responsible for the fact that nature in its most fundamental
aspect is four-dimensional. Things are what they are.
A.N. Whitehead, The concept of nature (1920)
Il se peut que la spatialité soit la projection de l’étendue
de l’appareil psychique. Aucune autre déduction possible. Psyché
est étendue, mais n’en sait rien.
S. Freud, Résultats, Idées, Problèmes (1938)
L’éclosion du discours scientifique à la fin du XIXe siècle
a bouleversé radicalement le champ du savoir en introduisant des nouvelles
vérités qui allaient à l’encontre du bon sens partagé
et qui donnaient jusque-là consistance au lien social. Les découvertes
de Pasteur, entre autres, démontrant que le vivant ne pouvait pas
être issu à volonté du non-vivant comme le soutenait
la théorie de la génération spontanée bien ancrée
dans les croyances de l’époque, lui ont attiré l’animosité
de l’establishment médical.
Dans Science et Vérité Lacan évoque le drame subjectif
du savant pouvant quelquefois l’amener à la folie. Cantor, éminent
mathématicien finissant sa vie à l’asile, nous servira d’appui
pour interroger cette subjectivité. La fin du XIXe et le début
du XXe siècle ont été un tournant pour les mathématiques.
A.Warufsel, auteur d’ouvrages de référence, écrit en
1969 sur cette période en évoquant les circuits de course automobile,
où aux longues lignes droites succèdent des épingles
à cheveux, ce qui oblige à jouer adroitement des rapports de
la boîte pour ne pas être projeté hors de la piste avant
de pouvoir reprendre le régime de pleine puissance. Les mathématiciens
professionnels sont de nouveau sur la ligne droite, non sans avoir, au début
de ce siècle, cassé quelques moteurs ou perdu quelques pilotes
(1).
Quelle est l’incidence de ce nouveau savoir si radical sur le sujet ? Et,
est-il possible de l’appréhender ?
Cantor mathématise l’infini actuel, qu’il dénomme Aleph1, définissant
ainsi une toute nouvelle approche de l’objet mathématique qui depuis
les Grecs ne pouvait pas se passer de l’appui donné par la notion
de mesure. Cette mesure assurait une prise sur le monde sensible.
Dès le début de ses recherches Cantor utilise la géométrie
projective (Steiner 1796-1863). Il en emprunte même le signifiant de
« puissance » pour nommer son hypothèse de la puissance
du continu. La géométrie projective démontre que dans
le coté d’un carré, à savoir un segment, il y a autant
de points que dans sa surface, puisque tous les points de celle-ci peuvent
être projetés sur le segment. Il en découle que la partie
peut être aussi grande que le tout, ce qui bouscule les certitudes
fondées sur la perception.
Ceci n’est pas sans rapport avec la logique du signifiant, qui relève
elle aussi d’un domaine au-delà de ce qui peut être saisi dans
le monde physique. Il n’est pas surprenant qu’en parlant du signifiant Lacan
évoque l’infini actuel : Le signifiant c’est ce quelque chose qui,
à entrer dans le réel, y introduit le hors de mesure, ce que
certains ont appelé l’infini actuel (Lacan, 5/1/66).
Or, cet infini actuel, dont parle Lacan, relevait jusqu’à Cantor de
la théologie ou de la philosophie. En le définissant mathématiquement
Cantor le soustrait à la sphère métaphysique, pour en
faire un objet scientifique. Cette définition mathématique
est basée sur une déduction rendue possible grâce à
la prise en compte des nombres irrationnels, ceux qui ne peuvent pas s’écrire
sous forme de fraction et qui ont un nombre infini, imprévisible et
non répétable de décimaux.
Dès les Grecs, il se pose à l’intelligence humaine une question
purement théorique mais qui touche à l’essence même des
mathématiques : existe-il une fraction qui soit exactement la mesure
de la diagonale du carré du côté unité ?(2)
Des nombres irrationnels comme racine de 2, Pi, le nombre d’or, pour ne citer
que les plus anciennement connus, sont des nombres que nous ne pouvons pas
finir d’écrire. Pour Pi, par exemple, les ordinateurs ont calculé
au jour d’aujourd’hui 6 milliards de décimaux. On pourrait dire que
ce sont des nombres qui oscillent entre le « ne cessent pas de s’écrire
» (de l’ordre du nécessaire) et le « ne cessent
pas de ne pas s’écrire (de l’ordre de l’impossible).
Il y a là donc, un impossible qui pour les Grecs ne pouvait
pas être démontré. Il a fallu attendre Cantor pour faire
du nombre irrationnel un objet mathématique. Les conséquences
de cette démonstration sont énormes(3).
Lorsque l’impossible n’est pas démontré, cela permet de vivre
dans l’espoir de trouver le rapport rationnel, le ratio, la fraction qui
le représente. Les Grecs l’avaient seulement pressenti, ce qui leur
permettait de vivre dans l’illusion du possible, dans l’illusion que c’était
possible de trouver la fraction pour calculer racine de 2, ou que c’était
possible de trouver le dernier décimale qui allait permettre de tomber
sur le chiffre qui arrêterait la suite. Cette illusion peut être
entendue comme l’alibi de l’impuissance exprimée soit dans la temporalité
: ce qui n’est pas possible aujourd’hui, peut-être le sera-il plus
tard, idée que, d’ailleurs, la science ne cesse de valider. Soit dans
la spatialité : ce que je ne sais pas, peut-être l’Autre le
saura-t-il. S’agit-il de la place de Dieu, qui faisait de l’infini actuel
un tabou, ou de la fonction du sujet supposé savoir ?
En mathématisant le domaine jusqu’alors réservé à
la religion - seul le domaine de Dieu pouvait recouvrir l’infini «
en acte » - Cantor, franchit un seuil, non sans payer le prix.
Jusqu’à Cantor, il n’y a pas eu à assumer cet impossible. Il
n’a y pas eu à se soumettre aux conséquences logiques de cette
démonstration. Grâce à lui, la coupure avec le monde
grec est pour ainsi dire accomplie. La notion même de coupure définie
par Dedekind, son collègue et ami, inaugure ce bouleversement. En
effet, Dedekind trouve une propriété ou fonction des nombres
irrationnels qui retourne le sens qu’on leur donnait jusqu’alors. Au lieu
d’imager l’insaisissable, grâce à la quantité infinie
de décimaux, un irrationnel va définir une frontière,
une limite séparant deux champs. La suite infinie de décimaux
instaure une « coupure » bordée de deux rationnels, celui
qui est juste avant et celui qui est juste après, qui appartiennent
à deux classes ainsi séparées.
L’infini potentiel, appelé par Cantor Aleph0, restera, en revanche,
celui des entiers, des rationnels, composant une suite définie par
une fonction, n+1 pour les entiers, par exemple. C’est l’infini qu’on imagine
intuitivement comme inatteignable parce qu’infiniment loin. Cet infini qui
se caractérise aussi par le fait d’être dénombrable est
le seul reconnu par les mathématiciens appartenant au courant finitiste.
Gauss parle en 1831 de son horreur quant au concept de l’infini actuel qu’il
appelle « complet »: Je conteste l’utilisation d’une grandeur
infinie comme un tout complet (...) L’infini n’est qu’une façon de
parler, son sens véritable étant celui d’une limite que certaines
fractions (ratios) approchent indéfiniment, tandis que d’autres l’éloignent
sans restriction.(5)
En 1886, Cantor se montre à la fois son accord et son désaccord
vis-à-vis de la position de Gauss: malgré la différence
essentielle entre les concepts d’infini potentiel et actuel - le premier
signifiant une grandeur finie, variable qui augmente au-delà de toutes
les limites finies, tandis que l’autre est une grandeur fixe, constante qui
se trouve au-delà de toutes les grandeurs finies - il arrive
qu’il soient trop souvent confondus. (5)
Gauss ne peut penser l’infini qu’en termes de complétude et de distance.
Le loin et le proche dévoilent qu’il pense en termes d’infini potentiel,
ce qui n’est peut-être pas sans rapport avec sa formation de physicien
ancrée dans le monde sensible.
Ce que Cantor nous dit c’est que l’infini actuel est un point fixe au-delà
de toutes les grandeurs finies. Ceci n’est pas sans évoquer le concept
du phallus comme point fixe. Mais, est-ce dans sa nature de signifiant que
Cantor peut le pressentir ?
Aucun commentateur de la vie de Cantor ne fait l’économie de Kronecker,
son professeur à Berlin et l’un des précurseurs de l’école
constructiviste, qui a violemment refusé ses découvertes. Kronecker,
représentant marquant du courant finitiste largement dominant à
l’époque considérait le savoir de Cantor comme relevant soit
de l’imposture soit du blasphème.
Une phrase lapidaire résume sa position : « Dieu a créé
les nombres entiers ; le reste est l’oeuvre de l’homme ». Selon Kronecker,
on devait construire les mathématiques à partir des nombres
entiers, en n’utilisant que des combinaisons arithmétiques finies
de ces nombres entiers. (...) Il s’opposa à toutes les définitions
d’objets mathématiques où intervenait la notion de limite.
Selon lui, il aurait même fallu abandonner les nombres irrationnels
que les mathématiciens acceptaient depuis des siècles, tant
qu’on ne saurait pas les construire à partir des nombres entiers naturels,
comme on le faisait pour les nombres rationnels. (J.Dauben)(4). La position
de Kronecker, reflétant celle de son époque, se fonde sur l’irréfutable.
Un analyste ne restera pas indifférent à la certitude donnée
par ce signifiant « entier », ou celui de « rationnel ».
Cantor connaissait la position de son ancien professeur. Il savait qu’elle
garantissait aux démonstrations mathématiques une sécurité
et une correction absolues.(...) Toutefois, Cantor pensait que la position
de Kronecker était outrée car elle censurait de manière
trop absolue la plupart des progrès en mathématique ; en outre
la position constructiviste entravait les progrès des mathématiques
en enfermant l’innovation dans un carcan méthodologique(5).
Si Kronecker était persuadé du bien-fondé de sa vision,
en revanche Cantor avait du mal à croire lui-même à ce
qu’il formalisait « malgré lui », comme si l’articulation
purement logique qui s’imposait à lui le devançait. Je le vois,
mais je ne le crois pas, écrit-il dans une lettre à Dedekind,
en lui demandant de confirmer la pertinence de sa découverte. Lacan
évoque « la plume ingénue de Cantor ». (6)
Weierstrass écrira : Kronecker utilise son autorité pour proclamer
que tous ceux qui jusqu’à maintenant ont travaillé pour établir
la théorie des fonctions sont des pêcheurs devant le Seigneur.
Il le cite : « Si le temps et la force me sont donnés, je montrerai
moi-même au monde mathématique que non seulement la géométrie
mais aussi l’arithmétique peuvent désigner la voie vers l’analyse
et certainement d’une manière plus rigoureuse. Si je ne peux pas le
faire moi-même, ceux qui viendront après moi le feront ... Et
ils reconnaîtront l’incorrection de toutes ces conclusions avec lesquelles
la soi-disant analyse (mathématique) travaille à présent
... C’est Weierstrass lui-même qui souligne les « tous »
employés par Kronecker, dans un courrier qu’il adresse à Sonja
Kowalewski, en 1885, sa disciple (5). Son ton tient plus du registre de l’idéologie
que de celui de la science. Mais la limite entre science et conviction est
bien mince surtout quand le débat s’inscrit dans une longue histoire
et concerne la conception même des mathématiques. L’opposition
entre finitistes et infinitistes date de l’Antiquité et elle est régulièrement
évoquée par tous les auteurs consultés. L’enjeu prend
une dimension à proprement parler paranoïaque autour de l’idée
de ce qu’est un nombre : est-ce que les irrationnels existent ?
Bell utilise une expression intéressante pour les analystes : il parle
des mathématiciens du « nous pouvons », qui caractérise
les finitistes, et ceux du « il existe » propre aux infinitistes.
Pour les premiers, les mathématiques sont une pure invention humaine.
Pour les infinitistes les mathématiques ont une existence propre et
l’on rencontre certaines vérités éternelles des mathématiques
dans le voyage de notre vie. Ces derniers disent il existe, les autres ripostent
prouvez-le ! Bell explicite ce clivage avec une citation du Nouveau
Testament : le Christ affirme que le Père existe, et Philippe répond,
Montre nous qu’il existe et cela nous suffira. (5)
Compte tenu de ces divergences, Kronecker a bloqué nominations
et publications dans son milieu d’influence, qui n’était pas mince.
Le climat d’hostilité allait jusqu’à l’insulte. Ce n’est pas
tant la personne de Kronecker qui nous importe mais ce qu’il représente
par son pouvoir réel : la résistance du lien social à
l’inconfort introduit par les avancées de Cantor.
Il y a chez Cantor du courage ou de la folie pour soutenir envers et contre
tous sa thèse, affirmant une nouvelle définition de l’impossible.
Dans la production de son mathème, on perçoit une façon
de ne pas céder sur son désir. Or, pour cela, il déplace
« l’indécidable » qu’il rencontre dans sa formalisation
mathématique sur des enjeux où le sens, la signification, l’imaginaire
lui permettent de prendre une position « moïque » : son
délire. Sa position à la faveur de Bacon dans le débat
Bacon-Shakespeare, et vers la fin de sa vie, sa thèse théologique
où il affirme sa théorie sur le vrai père de Jésus
en sont le témoignage. Ses délires ne l’ont pas empêché
de continuer jusqu’à la fin de sa vie à mener en parallèle
une recherche acharnée. Il s’agit de l’hypothèse de la puissance
du continu, qu’il n’a pas pu démontrer.
Beaucoup d’auteurs se sont intéressés à la vie de Cantor.
Pour un analyste, l’apparition d’un délire paranoïaque chez celui
qui a introduit ce changement radical dans la conception des mathématiques
pose la question de la subjectivité, de sa constitution et de son
nouage.
Freud disait que les névrosés vivent dans un monde où
seulement la monnaie névrotique se cotise. La subjectivité
psychotique, a-t-elle permis à Cantor de s’affranchir des limites
de la névrose, et de percevoir avec acuité ce qui autrement
relèverait du refoulé ? Ou bien, sa paranoïa a-t-elle
été la conséquence ultime du type de rapport au savoir
que ces découvertes impliquaient ? Autrement dit, s’agit-il d’une
psychose qui aurait favorisé ses avancées mathématiques,
ou bien, est-il pertinent d’imaginer que la production d’un savoir radicalement
nouveau puisse induire un décapitonnement chez celui qui sillonne
le dit savoir pour la première fois ?
La distinction que fait Lacan dans le séminaire de l’Acte entre
invention et découverte, introduit ici la question de la nature du
savoir produit : Si ce savoir existait avant d’être découvert,
qui le savait ? (Apparaît ici de nouveau la question de l’infini actuel
comme lieu où se tient ce(lui) qui sait, Dieu ou le sujet supposé
savoir).
Est-il un savoir qui découle de l’inconscient de l’auteur – comme
le perçoit Lacan quand il « lit » Descartes, Pascal ou
Marx. La plus-value de Marx indique qu’il en sait un bout, inconsciemment,
sur le plus-de-jouir que Lacan y déchiffre. La lecture à partir
du discours psychanalytique ne fait pas l’économie du sujet en amont
ou en aval de son oeuvre, du sujet qui dévoile à son insu et
à travers de l’écriture sa structure subjective.
La nature du savoir mathématique éminemment pauvre en imaginaire
fragilise-t-elle le sujet qui sort des sentiers battus ?
Au début de son enseignement, Lacan évoque l’usine hydro-électrique
pour dire qu’il s’agit d’un réel qui n’est pas une force ou énergie
obscure du monde sensible, mais du signifiant incompris déjà
là. C’est la position analytique, rendue possible à un moment
donné : le symptôme est un message à déchiffrer,
qui s’adresse à l’analyste, à de l’analyste.
Un savoir qui ex-siste dans le réel c’est, dit Lacan, la série
de lettres à l’origine de la production de l’énergie. Le réel
est ainsi défini comme le résultat de l’opération du
symbolique, comme résultat de l’incidence du signifiant. Ceci veut
dire qu’il a fallu qu’un forçage symbolique traduise le monde sensible
en une concaténation de lettres. Or, le mathématicien de la
fin du XIXe siècle, n’est-il pas justement le « traducteur »,
celui qui a frayé ce qui permet à Lacan de faire cette métaphore
?
Mais qu’en est-il du traducteur lui-même, est-il lui-même traduisible
en une série de lettres ? Peut-il lui-même par son savoir aboutir
à sa propre chute du monde sensible ? Autrement dit, est-ce possible
d’en arriver là sans passer par une analyse ? Ou alors, la suite de
lettres de son patronyme demeuraient lettre morte pour lui.
Si Cantor a « lu » un déjà là incompris,
en reprenant l’expression de Lacan, organisé en une suite de lettres
ou de signifiants, où se trouvait-il ce savoir ? Peut-on dire que
c’était une perception de l’appareil psychique ? Etait-ce de l’inconscient
? Et, était-ce un savoir agencé par la signification phallique
?
Il faudrait s’interroger sur le socle même de la fiction phallique
de son époque, celui du consensus social et de l’ordre établi
à la fin du XIXème siècle. Et aussi sur celui de son
propre nouage, parce qu’il faut être fou pour être allé
jusqu’où il est allé, et en plus, personne n’était en
mesure d’accuser réception de son travail. Dans l’analyse, il est
impossible d’envisager une avancée dans le savoir de la structure
sans transfert, sans l’adresse à l’Autre : ce lieu dont le dernier
mot est d’être irréductiblement vide. Les propos de Lacan sur
le discours de la liberté dans son rapport à la psychose (9)
mériterait d’être longuement développé, d’autant
plus que Lacan l’évoque dans le rapport à la science, et à
Cantor lui-même.
L’infini actuel bouleverse la foi unique dans la logique des entiers, des
rationnels, des naturels... N’y avait-t-il pas dans sa formalisation la perception
d’une logique autre possible? D’une logique pouvant se rapporter à
l’altérité d’une façon tout à fait nouvelle et
différente de celle consacrée à l’époque ? En
dernier lieu, elle serait celle qui caractérise l’ordre du signifiant,
tel que Lacan le suggère (5/11/66).
Cantor s’attaquait certes aux fondations d’une maîtrise relevant du
carcan méthodologique, mais en tant que maîtrise porteuse de
l’aval du lien social ces fondations ne donnaient pas moins d’assise au signifiant
phallique, tel qu’il pouvait fonctionner dans le lien social avant l’éclosion
du discours scientifique moderne. Il s’agit là d’un S1 qui à
ce titre décide de ce qu’il y a à rejeter, comme Kronecker
ne s’est pas privé de le faire. Le lien social lui-même ne pouvait
que pressentir comme menaçant la formalisation des nombres irrationnels
qui faisant rentrer dans le domaine des nombres un étranger ou un
hétéros. (La distinction entre l’hétéros et l’étranger
nécessite un plus long développement. Il est l’enjeu de la
leçon sur le discours de la liberté, discours que Lacan associe
autant à la psychose qu’aux mathématiques)
Est-ce que Cantor savait que son savoir allait mathématiser plus tard
une issue à des impasses de la subjectivité, en faisant rentrer
dans le cadre du possible ce qui ne l’était pas jusqu’alors ?
- La possibilité structurale d’un infini en acte permet de concevoir
un terme à la logique de l’infini potentiel propre à la procastination
de l’obsessionnel (La névrose obsessionnelle, Charles Melman).
-Le « transfini de la demande » (L’Etourdit) permettrait de clore
les tours innombrables de la demande sur le tore.
- La prise en compte du dénombrable propre à l’aleph zéro
situe le pas-tout propre au féminin et au désir de l’analyste
? (L’Acte psychanalytique)...
Il semblerait que le concept d’infini en acte laïcisé, en tant
que borne inatteignable dans un système fermé, conceptualise
le phallus. Mais il a fait défaut chez celui qui a apporté
ce concept à la science. Etait-ce à cause d’une axiomatique
qui s’enchaînait dans le hors sens propre aux mathématiques
?
Le drâme subjectif de Cantor pose ainsi des questions qui méritent
d’être largement débattues et développées.
Je remercie les collègues mathématiciens et analystes Perle
Israël et Henri Cesbron-Lavau pour leur aide. Sans leur soutien, ce
travail n’aurait pas pu aboutir.
Notes
(1) Warufsel André, Les mathématiques modernes, Editions du
Seuil, 1969. (page 6)
(2) Deledicq A, Maths, Editions de la Cité, Bordas, 1998.
(3) Idem
(4) Dauben J. Georg Cantor, revue Pour la science, 1992
(5) Bell E. T., Men of mathematics, Simon ans Schuster, 1930
(6) La plume ingénue de Cantor qui ouvre une voie sensationnelle,
Le savoir du psychanalyste, 4/5/72
(7) Cette division est évoquée par Bell, Dauben et Warufsel
(8) Lacan J. L’acte psychanalytique,
(9) Dans Question préliminaires d’un traitement possible...(Ecrits),
qui renvoie à la leçon du 8 février 1956, Structures
freudiennes des psychoses.