Recherche:Grand Théorème de Fermat/Le coup de bluff

Fermat : Le coup de bluff

Travaux de recherche en mathématiques

---

Toute réaction ou commentaire par rapport à ce travail de recherche sont les bienvenus sur cette page de discussion.

---

Cette page fait partie de l’espace recherche de Wikiversité et dépend de la faculté Mathématiques. Pour plus d'informations, consultez le portail de l'espace recherche ou rendez-vous sur l'index des travaux de recherche par faculté.

(2/4)

< Retour à la Première partie

Premier maillon, le coup de bluff : “nombres de Fermat”

« Les perdants nous donnent beaucoup d’idées pour faire avancer la théorie qui gagne. »
Ève-Aline Dubois, historienne des sciences.

« C’est ce que trouve qui m’apporte ce que je cherche. »
Pierre Soulages

Dans le même ordre d'idées, notons, à propos de l'ouvrage d'Alexandre Grothendieck Récoltes et Semailles, enfin publié en livre papier (janvier 2022, Gallimard), qu'en principe les semailles viennent après les récoltes.

Voyageur contemplant une mer de nuages (Der Wanderer über dem Nebelmeer), de Caspar David Friedrich

Étudions maintenant l'un des principaux arguments qui ont fait dire à certains commentateurs que Fermat, “s'étant trompé” en supposant la validité de sa conjecture sur les nombres de la forme 2²ⁿ+1 (nombres de Fermat), ne pouvait donc pas être fiable à propos de son assertion sur une preuve de son Grand théorème. Nous verrons que cet argument ne tient pas. Nos mathématiciens s’accordent d'ailleurs à penser qu'il connaissait la méthode (avec les diviseurs de la forme 64k+1) qui montre si ces ''nombres de Fermat" sont premiers ou non (en l'occurrence ils ne le sont pas). Ses détracteurs ont prétendu qu'il avait dû faire une erreur de calcul (...) et n’avait pas vérifié son assertion (...) alors que cette vérification se fait en quelques minutes... Pendant quasiment un tiers de sa vie, il a testé ses correspondants, chacun à leur tour, de venir à son secours (...). Une période de 19 ans, assurément n'était pas suffisante pour permettre à ce génie des mathématiques de vérifier un calcul très simple et très rapide pour le cas F₅... La démonstration peut se lire sur le site blogdemaths. Quant au professeur d'histoire et d'histoire des sciences Michael Mahoney, il estimait que Fermat se serait assuré de la validité de la conjecture seulement jusqu’à F₄, et en aurait déduit qu'elle devait être toujours valide sans même vérifier le cas F₅. On est émerveillé de voir avec quelle facilité des personnes instruites peuvent parfois écrire d'éminentes balourdises.

Notons en outre qu'en utilisant les nombres de la forme 74k+1 Fermat inventa une méthode très ingénieuse pour prouver que 2³⁷–1 (soit 137 438 953 471) est divisible par 223. En utilisant le même argument, avec les diviseurs de la forme 64k+1 cette fois, il pouvait montrer que F₅ est divisible par (64×10)+1 [soit 641], et donc qu'il n'est pas premier, et donc que la conjecture est fausse. Il écrit d'ailleurs sans cesse qu'il n'a pas la preuve de cette proposition. Et il ne la joint pas à ses 48 Observations que son fils transcrira sur l'Arithmetica de 1670, « où toutes ces propositions, à mesure qu’on s’en est occupé, ont été trouvées rigoureusement exactes. » (Libri). Cette absence est un premier argument en faveur de notre thèse selon laquelle il l'a toujours sue fausse. Mentionnons aussi une lettre de Fermat à Mersenne (datée du 7 avril 1643) dans laquelle on peut lire :
« Vous me demandez si le nombre 100 895 598 169 est premier ou non, et une méthode pour découvrir, dans l’espace d’un jour, s’il est premier ou composé. À cette question, je réponds que ce nombre est composé et se fait du produit de ces deux : 898 423 et 112 303, qui sont premiers. » Les méthodes que proposera plus tard Gauss (1777-1855) dans ses Disquitiones arithmeticae pour décomposer un nombre composé en ses facteurs premiers n'auraient pu résoudre le problème proposé par Mersenne.

Pour un mathématicien qui a sérieusement étudié l'œuvre de Fermat (dont sa correspondance) la thèse selon laquelle ce génie aurait pu penser que ces nombres de la forme 22n+1 (dont F5) sont tous premiers est ridicule. Comme nous le verrons plus loin, prétendre avec prétention qu'il n'aurait pu trouver une preuve à son Grand théorème est tout aussi ridicule. Surtout quand on lit dans la dite correspondance que la plupart des ses inventions sur les nombres, il ne les fit pas connaître, par manque de temps... entre autres !

Dans son livre Un théorème de Fermat et ses lecteurs, Catherine Goldstein étudie particulièrement l’Observation XLV traitant du Théorème de Fermat sur les triangles rectangles, sa formulation, les lectures qu'en ont fait les différents commentateurs, etc. Cette preuve montre l’impossibilité, comme en passant, du cas n=4. Au cours du temps les mathématiciens ont fait différentes lectures de ce théorème. C.G. y fait sa propre lecture qui a l’avantage de répondre « à toutes objections soulevées jusqu’à présent ». À la page 148, note 4, elle note que « des lettres importantes pour les recherches sur les nombres ne figurent pas dans les VARIA OPERA MATHEMATICA [publiées par son fils en 1679], comme la lettre de Carcavi de 1659 » (où figure la fausse conjecture). C'est la formulation d'un passage de cette lettre qui a fait dire à certains commentateurs que Fermat avait dû se tromper sur cette conjecture, et pourquoi pas aussi, donc... sur son grand théorème. Concernant cette fausse conjecture et ses diverses formulations, ce sont au total 5 lettres qui sont absentes des Varia opera (“Œuvres mathématiques diverses”, un recueil de mémoires et de correspondances de Fermat). Une seule de ces lettres en rapport direct y est mentionnée. Voici d'abord les lettres absentes :

1) à Frénicle de Bessy en août (?) 1640, où figurent ces mots, dont le contexte dans lequel Fermat les écrit n’a jamais été étudié (voir infra) par les commentateurs : « [...] mais j’ai exclu si grande quantité de diviseurs par démonstrations infaillibles [...] » Fermat cherche à stimuler Frénicle.

2) à Mersenne, Noël 1640, : « Si je puis une fois tenir la raison fondamentale que 3, 5, 17, etc. sont nombres premiers, il me semble que je trouverai de très belles choses en cette matière, car j’ai déjà trouvé des choses merveilleuses dont je vous ferai part, après que j’aurai eu votre réponse et celle de M. Frenicle. » On peut penser que c'est moins de son ami le père Marin Mersenne que de Frenicle (avec lequel Fermat aurait souhaité ferrailler dans la plus grande courtoisie) que Fermat donne l'impression qu'il pourrait attendre une réponse (somme toute ardue pour l'époque). L'appât tendu par Fermat était alléchant, mais d'après ce que l'on sait Frénicle n'a pas répondu et Fermat n'aura pas à faire part des choses merveilleuses qu'il a déjà trouvées. Cette absence de réponse sera pour lui un bon prétexte pour garder par devers lui ces choses merveilleuses. Ses habiletés, son don de psychologue, on le voit dans toute sa correspondance, sont confondants.

3) à Pascal, le 29 août 1654 : « et je vous avoue que je n’ai pu encore la trouver pleinement ; je ne vous la proposerais pas pour la chercher, si j’en étais venu à bout. Cette proposition sert à l’invention des nombres qui sont à leurs parties aliquotes en raison donnée, sur quoi j’ai fait des découvertes considérables. Nous en parlerons une autre fois. » Un nouvel appât tendu, plus discret cette fois, au grand Blaise Pascal, dont Fermat sait certainement qu'il est déjà bien éloigné de ces considérations.

4) à Digby pour John Wallis, le 19 juin 1658 : « Il reste à trouver une démonstration de cette proposition, certainement belle mais aussi très vraie. » (Lettre XCVI dans Œuvres de Fermat, t. 2, p. 402-405. Ces affirmations répétées à propos de sa prétendue certitude sur les nombres de la forme 2²ⁿ + 1 feront le régal, dans leur ignorance, de ses détracteurs.

5) à Carcavi, en août 1659, dans une lettre testament à destination de Huygens. La formulation de cette conjecture est très inhabituelle chez Fermat :

« J’ay ensuite considéré certaines questions qui bien que négatives, ne restent pas de recevoir très grande difficulté, la méthode pour y pratiquer la descente étant tout à fait diverse des précédentes, comme il sera aisé d’éprouver. Telles sont les suivantes :

– Il n'y a aucun cube divisible en deux cubes.
– Il n'y a qu'un seul quarré en entiers qui, augmenté du binaire, fasse un cube. Le dit quarré est 25.
– Il n'y a que deux quarrés en entiers, lesquels, augmentés de 4, fassent un cube. Les dits quarrés sont 4 et 121.
– Toutes les puissances quarrées de 2, augmentées de l'unité, sont nombres premiers.

Cette dernière question est d’une très subtile et très ingénieuse recherche et, bien qu'elle soit conçue affirmativement, elle est négative, puisque dire qu'un nombre est premier, c'est dire qu'il ne peut être divisé par aucun nombre. »

La lettre complète se trouve ICI. Cette formulation à l'attention de Huygens, qui prêta à confusion et fit polémique, deviendra après sa mort la plus célèbre de ses remarques sur les “nombres de Fermat”. Christian Huygens étant alors âgé de 30 ans, Fermat a pu espérer trouver en lui quelqu'un qui voudrait s'intéresser à ses recherches, mais le jeune scientifique néerlandais avait de nombreux autres centres d'intérêt et ne donna pas suite. La formulation de ce dernier ballon d'essai était pourtant alléchante.

• Dans ces lettres il demande du secours (!) à ses six principaux correspondants. L'un après l'autre, il les teste et les stimule, les encourage à le suivre dans ses travaux — quelle motivation pour eux, venir en aide au grand Fermat ! Aucun d'entre eux n'ayant donné suite il est très déçu, frustré et certainement bien amer que personne ne veuille coopérer avec lui pour faire avancer la Connaissance. Certains l'ayant même méprisé, qui ne pouvaient le suivre dans ses découvertes, il va produire sa riposte : livrer aux générations suivantes la fameuse observation sur son grand théorème. Nous étudierons plus loin tout ce qu'elle cachait.
• Cette fois Fermat a ‘’considéré” certaines ‘’questions”. Il n'emploie pas, comme il le fait d'habitude fait, le mot «proposition», mais le mot «question(s)». La nouvelle formulation “question(s) négative(s)” n'est d'ailleurs pas très correcte, une question, formellement, est toujours une interrogation. La formulation de tout le paragraphe, et à la fin l'allusion aux nombres premiers « qui ne peuvent être divisés par aucun nombre », lui permettent d'introduire le terme «négative». Fermat, philologue, l'utilise dans une lettre testament. Insinue-t-il alors qu'à cette question, la réponse est négative ? (i.e. Non, cette proposition est fausse). C'est notre thèse, mieux, connaissant très bien, depuis ces longues années où nous fréquentons Fermat, sa psychologie, son esprit facétieux et son goût profond pour la pédagogie, notre certitude.
• La formulation : « Cette dernière question est d’une très subtile et très ingénieuse recherche […] » est admirable. Cette question qu'il nous pose à nous lecteurs, il en majore encore l’intelligence en ajoutant sans raison apparente à l'adjectif «subtile» son synonyme «ingénieuse», qui fait doublon. Continuons donc à lui faire confiance en faisant preuve nous aussi de finesse, de créativité et, tout comme lui, « considérons la question ». La formulation du paragraphe a un double sens : la recherche qu'il évoque, ce n'est pas seulement celle, arithmétique, concernant cette proposition, c'est surtout une recherche de subtilités dans tout ce qu'il écrit. On aura alors avantage à comprendre ainsi le début de la phrase :
• « Cette dernière question, dans sa formulation, est d’une très subtile et très ingénieuse recherche […] ». L'agencement singulier des mots dans l'entièreté du paragraphe est d'une subtilité remarquable.
• Cette proposition qui peut sembler équivoque est absente des 48 observations, toutes prouvées exactes par la suite.
• Les 3 premières ‘’questions‘’ ayant une reçu réponse positive, ses contempteurs seront enclins et surmotivés à croire qu'il a cru avoir démontré que la dernière avait elle aussi une réponse positive.
• Notons que la lettre à Mersenne de juin (?) 1640 (voir infra) où Fermat utilise une méthode similaire, avec les diviseurs de la forme 74k+1, son fils l’omet elle aussi des Varia. Elle est donc absente à la fois des 48 observations, et des Varia. Et finalement, ce sont 6 lettres importantes en rapport avec la fausse conjecture que Samuel n'inclut pas dans les Varia.
• Nous prétendons que ces 5 lettres sont un énorme coup de bluff, cela nous paraît maintenant crystal-clear comme nous l'avons vu aussi au début de cette section, pourtant nous n'avons jamais lu qu'un mathématicien ait songé à cette éventualité, tant il est difficile de contrarier le panurgisme qui a couru tout au long des siècles. Les contempteurs n'auraient jamais pensé non plus que le très sérieux magistrat Pierre de Fermat, dont on a souvent dit qu’il se vantait un peu trop pour les questions arithmétiques (or cela entrait dans sa stratégie du défi), se serait enhardi à un tel coup de bluff en courant le risque de perdre une bonne partie de sa crédibilité — c'est exactement ce qui se produisit. Rappelons qu’il se moquait bien de la gloire.
• Non seulement il semble vouloir nous montrer à quel point il aurait encore souhaité trouver des partenaires qui l'accompagnent dans ses recherches arithmétiques (y croyait-il vraiment lui-même ?), mais toutes ces lettres absentes des Varia, ainsi que la sixième qui y figure (voir infra) ont une autre utilité, elles préparent le terrain en laissant facilement croire au lecteur que finalement, Fermat n'est pas un mathématicien si sérieux. Dans cette lettre à Carcavi, alors qu’il a certainement de gros doutes quant à une réponse de Huygens, il laisse à la postérité un premier message mémorable qui se veut ambigu et fera beaucoup jaser. Fermat n'a cessé de jouer avec nous, le jeu a commencé en 1640 et ne cessera de s’intensifier. Le point culminant sera évidemment la fameuse observation sur son grand théorème... qu’il se garde bien de publier de son vivant. Un clin d’œil venu de l’au-delà sera fait 30 ans plus tard grâce à son fils Samuel avec les 48 observations, pour d’éventuels lecteurs confiants et attentionnés.

  D'un autre immense savant, une très jolie formulation : « Parfois, commentant sur quelques impressions souvent confuses, au sujet peut-être de tel et tel passage particulièrement obscur et déroutant, j’arrivais au fil de la plume à pénétrer plus avant dans le sens d’un texte qui avait semblé hermétique. […] Au fil des jours et des semaines, je me suis aperçu que le simple fait de recopier in extenso tel passage du texte que je scrutais, modifiait de façon surprenante ma relation à ce passage, dans le sens d’une ouverture à une compréhension de son sens véritable. » Alexandre GROTHENDIECK, Récoltes et semailles, p. 428.
  
  Ainsi que : « Je crois même que l'apparition soudaine d’un tel sentiment [d’évidence] est plus ou moins commune à tout travail de découverte, aux moments où celui-ci soudain débouche sur une compréhension nouvelle, grande ou petite. J’en ai fait l’expérience encore et encore tout au long de ma vie de mathématicien. Et ce sont les choses les plus cruciales, les plus fondamentales, au moment où elles sont enfin saisies, qui sont celles qui frappent le plus par leur caractère d’évidence ; celles dont on se dit après coup qu’elles “crevaient les yeux” – au point qu’on se trouve stupéfait que soi-même ni personne n’y ait songé avant et depuis longtemps. Ce même étonnement, je l’ai rencontré à nouveau, et tout autant, dans le travail de méditation – ce travail à la découverte de soi-même qui est venu, peu à peu, à se confondre quasiment avec le travail sur mes rêves. [...] Les gens ont tendance à ne pas y faire attention, à ce sentiment d’évidence qui accompagne si souvent l’acte de création et l’apparition de ce qui est nouveau. Souvent même on refoule la connaissance de ce qui peut sembler, en termes des idées reçues, un étrange paradoxe. » Alexandre GROTHENDIECK, La Clef des songes, p 24.

  « L’inspiration est la solution d’un problème longuement médité. » Auteur inconnu.

Pour Fermat l'arithmétique est à la fois une passion, un art et un jeu. Mais un travail aussi. Il s'est fort plu par exemple à travailler sur les carrés magiques, allant jusqu'à réaliser un rectangle magique de plus de 400 cases. Il utilise beaucoup le latin (toujours, dans les 48 observations), dont « la rigueur et la concision correspondent parfaitement aux exigences des mathématiques ». Or, déroger aux règles précises de cette langue permet de jouer avec les mots. L'usage de « l’ellipse énigmatique ou du cryptage » (Ludivine Goupillaud) en est l'exemple le plus remarquable. Dans sa lettre bilan, pour la première et unique fois il utilise le procédé du cryptage dans un texte sibyllin écrit en français. Si donc on veut bien lire entre les lignes : « Pour comprendre les tenants et aboutissants de cette lettre testament il ne vous suffira pas d’en faire la lecture objective, vous devrez aussi la soumettre à une analyse rigoureuse car elle est le fruit d’une très ingénieuse recherche. À votre tour vous devrez vous astreindre à une très subtile recherche. »

Ses détracteurs en déformant son propos douteront toujours de ses compétences et feront de cette lettre un argument majeur pour dire qu'il avait présenté son plus grand théorème comme vrai sans en avoir trouvé la preuve. La plupart auront aussi recours à des paralogismes ou des sophismes. Ses partisans se réjouiront en découvrant les subtilités de cette lettre testament, qui si elles ne sont pas aussi déterminantes pour la suite que le cryptage de sa plus célèbre observation (voir infra) sont elles aussi très... ingénieuses !

Quand Samuel publie les Varia opera après la mort de son père, comme il l'a fait pour les Observations, mais cette fois-ci 9 ans plus tard, il n'y insère qu'une lettre évoquant cette fausse conjecture, celle adressée à Monsieur de ****. On est quasiment assuré qu’il s’agit encore de Frénicle de Bessy.:

6) 18 octobre 1640 : « Mais je vous avoue tout net (car par avance je vous avertis que, comme je ne suis pas capable de m'attribuer plus que je ne sais, je dis avec la même franchise ce que je ne sais pas) que je n'ai pu encore démontrer l’exclusion de tous diviseurs en cette belle proposition que je vous avais envoyée et que vous m’avez confirmée, touchant les nombres 3, 5, 17, 257, 65537, etc. Car, bien que je réduise l’exclusion à la plupart des nombres et que j’aie même des raisons probables pour le reste, je n’ai pu encore démontrer nécessairement la vérité de cette proposition, de laquelle pourtant je ne doute non plus à cette heure que je le faisais auparavant. Si vous en avez la preuve assurée, vous m’obligerez de me la communiquer ; car, après cela, rien ne m’arrêtera en ces matières. » Cette affirmation n'est-elle pas là, surtout, pour aiguiser la curiosité de Frénicle, pour le stimuler ? Tant il est vrai que si ce dernier avait pu trouver le contre-exemple F_5, Fermat aurait eu le partenaire idéal, leurs échanges futurs auraient pu faire l'objet de joutes et d'échanges qui auraient considérablement enrichi l'historiographie. S'il ne parle plus de ‘’démonstrations infaillibles‘’, il n'y va pas de main morte. Pourtant, deux mois seulement après sa première lettre à Frénicle, il semble vouloir un peu le rassurer sur la difficulté.

Samuel a donc omis, en particulier dans les Varia, toutes les formulations sur cette conjecture (dont celle qui a soulevé la controverse) sauf celle avec une formulation claire, ne prêtant pas à confusion, et dans un document officiel, puisque c'est un ouvrage publié où figurent ces mots de son père : « [...] car par avance je vous avertis que, comme je ne suis pas capable de m'attribuer plus que je ne sais, je dis avec la même franchise ce que je ne sais pas. » (Ndlr : il ne peut montrer que cette proposition est vraie puisqu'il la sait fausse : ce n'est même plus un mensonge). Le choix de Samuel précisément pour cette lettre où son père dit être toujours honnête, à n'en pas douter veut nous faire comprendre qu'il faudra prendre au sérieux l'observation de Fermat sur son grand théorème. Ses commentateurs ne se sont pas interrogés sur la raison de ce choix. On pardonnera facilement à une basse-cour trop excitée – la ponte fut en rapport ! – pour réfléchir sereinement. Les optimistes se diront que cet étroit labyrinthe où les balises ne cessent de se laisser découvrir en s'ajoutant les unes aux autres quand on avance dans un chemin hérissé de pièges pour nous guider élégamment vers le but de la randonnée, n'a pas été construit par hasard. Nous sommes certain quant à nous que Pierre de Fermat, qui institua Clément-Samuel comme seul héritier en 1660, l'a très précisément informé de ce qu'il aurait à faire pour parachever son grand œuvre.

On peut lire dans l'ouvrage Fermat par Tannery, p.199 qu'il avait utilisé l'argument des nombres de la forme 74k+1 :

Lettre à Mersenne, juin (?) 1640. « Au reste vous ou moi avons équivoqué de quelques caractères au nombre que j’avais cru parfait, ce que vous connaîtrez aisément, puisque je vous baillais 137 438 953 471^{Note 1} pour son radical, lequel j’ai depuis pourtant trouvé, par l’Abbregé tiré de la 3ème proposition, être divisible par 223 ; ce que j’ai connu à la seconde division que j’ai faite, car l’exposant dudit radical étant 37, duquel le double est 74, j’ai commencé mes divisions par 149, plus grand de l’unité que le double de 74 ; puis, continuant par 223, plus grand que l’unité que le triple de 74, j’ai trouvé que ledit radical est multiple de 223.
De ces Abbregez j’en vois déjà naître un grand nombre d’autres, Et mi par di vedere un gran lume^{Note 2}.
Je vous entretiendrai un jour de mon progrès, si M. Frénicle ne vient au secours et n’abbrege par ce moyen ma recherche des Abbregez. En tout cas je vous conjure de faire en sorte que Mr de Roberval joigne son travail au mien, puisque je me trouve pressé de beaucoup d’occupations qui ne me laissent que fort peu de temps à vaquer à ces choses. Je suis (etc.) »

Note 1. Nombre de Mersenne non premier M37.
Note 2. Traduction de l'occitan : « Et il me semble voir une grande lumière. »

Au vu de ces quelques lettres comme dans toute sa correspondance on remarque deux choses qu'on pourrait trouver contradictoires.

• Fermat ne cesse de s'émerveiller, à juste titre, de ses plus belles trouvailles. Il vante tellement leur importance que certains de ses correspondants on fait de lui un vantard.
• Il n'a jamais recherché la gloire, a toujours refusé que soit publié quelque chose sous son nom. Le seul ouvrage qu'il a publié l'a été sous le pseudonyme M.P.E.A.S., dont on a longtemps ignoré la signification (voir infra).

Le premier point s'explique aisément, comme on le voit dans ses écrits, il s'attache à faire progresser la science et souhaiterait que les tous savants collaborent entre eux. Le deuxième point s'explique encore plus mieux :

• C'est l'honnête homme par excellence, reconnu d'une grande modestie par ceux qui ont su l'apprécier. Descartes très jaloux, et Wallis par exemple, qui ne purent rivaliser étaient d'un avis opposé.
• Eût-il recherché la gloire qu'elle aurait nui à sa tranquillité, l'époque est politiquement troublée et se mettre en avant aurait nui à sa carrière de magistrat.

Fermat certainement un peu revanchard, en tout cas très pédagogue, a commencé à mettre en place une stratégie redoutable : l'historien distrait ou malhabile, ou le partial, le présomptueux, croira facilement que l'homme n'est pas fiable. Les dégâts collatéraux ? Il s'en fiche totalement, ils les a prévus, orchestrés, même. Une fois admise l'analyse ci-dessus exposée sur la question de la fausse conjecture, l'argument des contempteurs (« il s'est déjà trompé une fois ») perd tout son sens. Que notre homme se soit décidé dès 1640 à envoyer cette fausse conjecture à tous ses correspondants, entre autres dans le but de semer le doute sur sa capacité à avoir prouvé son grand théorème, est donc pour nous l'hypothèse à privilégier. Mieux, c'est notre conviction. Cette thèse qui concorde avec la veine facétieuse de Fermat, est non seulement fort plaisante, elle sera aussi fort utile pour la suite. Le premier domino est tombé, il est temps de s'attaquer au Dernier problème.

• 3/4 : Recherche:Grand Théorème de Fermat/Dernier Problème