1. Critique des systèmes et polémiques d’école

Il est indubitable que la réflexion autour des systèmes a marqué de façon profonde la pensée philosophique et scientifique, notamment francophone, du milieu du XVIII^e siècle. On pourrait affirmer, sans crainte de se tromper, qu’il s’agit d’un débat crucial, à travers lequel les Lumières ont construit leur identité et qui fait partie intégrante de leur legs^{Footnote 1}. Il n’est pas moins certain qu’un rôle majeur, dans le déroulement de ce débat, a été joué par un auteur en particulier : Étienne Bonnot de Condillac. Son Traité des systèmes (1749) a beaucoup contribué à définir le paradigme du «système»^{Footnote 2}. En ce sens, il a fait époque; on serait même tenté d’ajouter qu’il a eu le dernier mot sur la question. C’est d’ailleurs ce que laisse supposer Jean d’Alembert dans un passage célèbre du Discours préliminaire de l’Encyclopédie (1751) :

Après la parution du Traité des systèmes, donc, les Lumières auraient réglé, une fois pour toutes, leurs comptes avec la forme-système : il ne restait apparemment qu’à illustrer de gloses un travail à plusieurs égards définitif. Mais faut-il se fier à d’Alembert et accepter tout simplement le bilan qu’il a dressé? Ne se peut-il pas que Condillac ait négligé quelques éléments importants, en sorte que la critique des systèmes ne se trouve pas vraiment accomplie sous sa plume?

Dans les pages qui suivent, je me propose de répondre à ces interrogations en m’arrêtant d’abord sur un texte peu fréquenté, et pourtant révélateur, texte dont l’attitude était polémique et qui visait directement le Traité des systèmes. Il s’agit plus exactement d’un compte rendu de l’ouvrage condillacien, paru dans la Bibliothèque impartiale de Jean Henri Samuel Formey pour l’année 1750. Or, il faut signaler au préalable qu’en regardant ce texte, on pourrait avoir l’impression de lire la défense d’un système en particulier : celui de Leibniz ou, tout au plus, celui de Wolff^{Footnote 4}. En effet, Formey reproche à Condillac plusieurs imprécisions et erreurs théoriques au sujet de la présentation qu’il a faite de ces deux auteurs : si l’un est à vrai dire antisystématique, donc peu concerné par le sujet même de l’ouvrage, l’autre y est mentionné très peu et mal à propos, comme un épigone pur et simple de Leibniz^{Footnote 5}. Ces remarques militantes trouvent leur justification dans le contexte où le compte rendu de Formey puise ses racines : celui de la lutte entre deux partis philosophiques et scientifiques, qui a été assez animée à l’Académie des Sciences et des Belles-Lettres de Berlin jusqu’au moment où l’esprit éclectique a commencé à se répandre. En 1769, dans son mémoire sur la Conciliation des idées de Newton et de Leibniz, l’académicien Nicolas de Béguelin pouvait affirmer que «c’est le défaut ordinaire des systèmes, de montrer tout d’un seul point de vue» et «que les meilleurs esprits, sans adopter les systèmes entiers des plus grands hommes sur les diverses branches de la philosophie, recueillent ce qui leur semble solidement établi dans les sectes les plus opposées»^{Footnote 6}. Mais auparavant, c’est-à-dire durant les années 1740-1750, les leibniziens et les wolffiens, d’un côté, et les newtoniens, de l’autre, n’avaient pas manqué de s’affronter, comme l’ont montré différentes études^{Footnote 7}.

Ce contexte prussien ressemble beaucoup au contexte français où les cartésiens, d’une part, et les newtoniens, d’autre part, se sont combattus^{Footnote 8}. Au milieu du XVIII^e siècle, ce combat était toujours en cours, et la polémique sur les systèmes en était, de fait, une espèce de prolongement ou d’appendice. D’Alembert, le disciple de Newton, écrivit le passage du Discours préliminaire cité ci-dessus non seulement pour contester une attitude générale, mais en visant un homme en particulier, Jean-Jacques Dortous de Mairan, dont les sympathies cartésiennes étaient reconnues^{Footnote 9}. Ce n’est pas un hasard si, dans un texte lu à l’Académie Royale des Sciences de Paris en 1748 et ensuite placé en tête de la Dissertation sur la glace (1749), Mairan avait soutenu l’utilité des systèmes, à son avis injustement taxés d’être chimériques, en critiquant ce qu’il appelait «un lieu commun des Préfaces»^{Footnote 10}. Cette position, il l’avait défendue depuis son Éloge (1742) de Joseph Privat de Molières, auquel on reprochait justement d’avoir trop aimé les systèmes :

Sans doute d’Alembert a-t-il été un peu trop sévère à l’encontre de son interlocuteur, dont la position est assurément plus complexe et nuancée qu’il ne le laisse croire. En regardant de près les textes, on pourrait même relever des points de contact entre la Préface de Dortous de Mairan et le Traité des systèmes de Condillac, dont l’auteur du Discours préliminaire partageait l’attitude^{Footnote 12}. Il est cependant nécessaire de se rappeler qu’on était en guerre et qu’on ne pouvait presque rien concéder à son adversaire.

En France comme en Prusse, le débat sur les systèmes présuppose donc des polémiques d’école très vives, qui l’alimentent et le justifient, au moins en partie. Pour rendre raison de l’opinion de Formey au sujet de la chasse aux systèmes et pour mieux comprendre le sens des critiques qu’il adresse à Condillac, il faudra donc tenir compte de son engagement dans le combat opposant le camp des leibniziens et wolffiens et le camp des newtoniens au sein de l’Académie de Berlin. Or, on ne tardera pas à s’apercevoir qu’il n’est pas question de s’arrêter là. En effet, il va devenir clair que Formey critique Condillac pour des raisons qui dépassent l’esprit de secte pur et simple. En qualité d’observateur à la fois avisé et externe par rapport au milieu français, Formey s’avérera porteur d’une intuition, voire d’une suggestion interprétative qui mérite d’être suivie. En plus d’être influencé par des polémiques d’école, la réflexion que les auteurs des Lumières ont développée autour des systèmes apparaîtra liée de façon très stricte à un autre débat fondamental du milieu du XVIII^e siècle : celui qui concerne le statut ainsi que l’usage des mathématiques et de la géométrie. Il s’agit d’un débat qui, au lieu de redoubler les oppositions évoquées jusqu’ici (celles des newtoniens contre les cartésiens ou bien contre les leibniziens et les wolffiens), a entrainé un partage nouveau : il a en effet fini par briser l’unité du front newtonien, en reflétant des changements profonds qui étaient en train de se produire dans le panorama philosophique et scientifique de l’époque^{Footnote 13}.

2. Une omission symptomatique

En 1750, comme je le disais, Formey fait paraître dans sa Bibliothèque impartiale un compte rendu du Traité des systèmes de Condillac. Dès les premières pages de cet écrit, il se montre assez insatisfait, voire gêné par les choix de l’auteur. Il remarque que les cas d’étude, si on peut les appeler ainsi, que Condillac avait sélectionnés pour étayer sa thèse et accomplir sa tâche n’étaient pas les bons : «Tout ce qu’il plaît à l’auteur d’appeler système, afin qu’il soit dit qu’il a détruit des systèmes, n’en est plus que les mauvaises hôtelleries du Héros de la Manche étaient des châteaux»^{Footnote 14}. Jusqu’à ce moment-là, selon Formey, le seul philosophe qui s’était attaché à développer un véritable système, c’était Wolff, auteur que Condillac avait pourtant négligé, en se bornant à deux ou trois références peu significatives et, surtout, peu informées. Mais l’omission la plus grave, aux yeux du recenseur, n’est pas vraiment celle que je viens d’évoquer. La faute principale de Condillac est d’avoir oublié d’envisager le cas de la géométrie, en tant qu’elle fait usage des mathématiques :

Sans rien ôter aux mérites des géomètres, on n’aurait pas dû «oublier le revers de la médaille» et manquer à l’exposition des abus que ceux-ci faisaient des principes abstraits^{Footnote 16}.

Parmi les inconvénients et les dangers de la géométrie que Formey fait remarquer à Condillac, on compte notamment la tendance des géomètres à réaliser à toute force leurs abstractions et à les transposer en physique, où elles ne tardent pas, par ailleurs, à se montrer sous leur forme la plus propre et la plus authentique : celle des fantômes et des fictions. Bien qu’extrêmement perfectionnée dans ses détails par l’exactitude des travaux des géomètres, la physique finit par être bouleversée dans ses fondements à cause de la «substitution violente» des notions imaginaires de la géométrie aux notions réelles, c’est-à-dire aux notions métaphysiques qui, selon Formey, sont les seules capables de fournir l’explication des phénomènes^{Footnote 17}. C’est pour cette raison qu’on n’aurait pas tort d’affirmer qu’«un grand géomètre» est «un vrai tyran»! Parce qu’il a mesuré les choses, il prétend en déterminer l’essence et les propriétés. Mais sa prétention est aussi injuste que celle d’un couturier qui, après avoir mesuré une pièce d’étoffe, voudrait se servir de son aune pour rendre raison du tissu et des matières qui la composent^{Footnote 18}. Les mathématiques utilisées par les géomètres témoigneraient donc d’une attitude systématique au mauvais sens du terme : elles seraient la manifestation la plus puissante de ce que d’Alembert allait appeler «esprit de système»^{Footnote 19}, car elles prétendent s’appliquer à tout indistinctement et s’arrogent des vertus et des capacités explicatives qu’elles ne possèdent pas en vérité.

Or, ce qui est le plus intéressant, c’est que dans ce même compte rendu, Formey formule une hypothèse — ou plutôt une insinuation? — au sujet des raisons qui auraient poussé Condillac à omettre, dans son Traité, toute référence significative aux excès des mathématiques et de la géométrie :

Que signifie l’allusion de Formey? Pour deviner à quoi il pense exactement et pour saisir la portée du reproche qu’il formule à l’encontre de Condillac, il faut revenir à un ouvrage qui est la prémisse fondamentale ou, pour mieux dire, la source du compte rendu paru dans la Bibliothèque impartiale. Il s’agit des Recherches sur les éléments de la matière (1747), une critique philo-leibnizienne d’un texte philo-newtonien, les Considérations sur les éléments des corps (1746), que Leonhard Euler avait rédigé pour intervenir dans le débat déclenché par la question sur les monades que l’Académie de Berlin avait mise à concours en 1745^{Footnote 21}. Dans le but de défendre l’hypothèse des monades contre les objections d’Euler, Formey avait soutenu la nécessité d’une approche métaphysique à l’essence de la matière. Ce qui doit retenir notre attention ici, c’est la façon dont il avait défendu cette approche : il l’avait défendue en dénonçant justement les abus des mathématiques et de la géométrie, donc d’une manière tout à fait cohérente avec les passages du compte rendu du Traité des systèmes sur lesquels nous nous sommes arrêtés tout à l’heure.

Dans ses Recherches sur les éléments de la matière, Formey ne manque pas de cautionner les avantages que la communauté scientifique a pu tirer du travail des géomètres^{Footnote 22}. Pourtant, il se voit en même temps obligé de stigmatiser «un préjugé très grave» que ces derniers ont à combattre : leur penchant à réaliser les abstractions mathématiques^{Footnote 23}. Les idées abstraites que les géomètres veulent faire passer pour des réalités sont, à son avis, le travers le plus préjudiciable aux progrès de la physique. Toutes les fois qu’un géomètre tourne ses vues du côté de la physique, et qu’il y apporte ses notions, sans penser jusqu’à quel point elles diffèrent des notions réelles, on peut être sûr qu’elles vont le conduire à quelques absurdités. C’est exactement ce qui est arrivé à Descartes, explique Formey, lorsqu’il a voulu modeler sa définition de l’essence des corps d’après l’idée géométrique de l’étendue. Newton a, quant à lui, souscrit sans trop réfléchir à l’hypothèse des atomes en physique et a cru pouvoir se servir, pour éclairer les notions réelles (ou métaphysiques), du même flambeau qui lui avait rendu service ailleurs. Cependant, ces prétendus principes, les atomes, qui ne différent qu’en figure et en grandeur, sont de véritables qualités occultes^{Footnote 24}. Les notions de temps et d’espace absolus, défendues par les newtoniens, sont encore «un autre fantôme dont la physique a toute l’obligation à la géométrie»^{Footnote 25}. À ce niveau, Formey fait à nouveau jouer les arguments que Leibniz avait utilisés contre Newton, ou plus exactement les outils théoriques dont le philosophe allemand s’était servi dans le cadre de son débat avec le newtonien Samuel Clarke (notamment dans le Cinquième Écrit)^{Footnote 26}, et auxquels d’autres textes avaient fait écho par la suite (par exemple les Institutions de physique (1740) d’Émilie du Châtelet^{Footnote 27}), en leur garantissant une certaine diffusion.

Les géomètres sont, en somme, les victimes les plus illustres d’un véritable «esprit d’universalité», attitude qui s’apparente de façon très étroite à l’esprit de système, si elle ne coïncide pas parfaitement avec celui-ci. Ce qu’il faut donc remarquer à ce sujet, c’est que la critique des abstractions géométriques aurait forcement entrainé une mise en question du modèle positif de système présenté et promu par Condillac, c’est-à-dire du modèle newtonien. Voilà donc pour quelle raison Formey a pu insinuer que l’auteur du Traité des systèmes se serait brisé les dents s’il avait pris en considération la géométrie et son abus des abstractions mathématiques! Il aurait dû admettre que, de fait, les newtoniens ne différent pas beaucoup des cartésiens ou des autres partisans, vrais ou supposés, des principes abstraits^{Footnote 28}. La critique des systèmes, une fois jointe à la critique des mathématiques, aurait donc exigé une prise de distance par rapport à Newton, ou du moins l’abandon d’une fidélité intégrale à ce savant. Il s’ensuit qu’il fallait faire comme Hume qui, tout en demeurant newtonien à plusieurs égards, avait reproché à Newton un défaut de radicalité, justement pour avoir trop accordé aux abstractions^{Footnote 29}. À ce sujet, on a parlé d’une sorte d’«auto-déception» face à la réification injustifiée des abstractions mathématiques. Certains défenseurs de la modestie propre à l’empirisme newtonien pensaient, en effet, que Newton n’avait pas su rester fidèle aux implications de son propre programme méthodologique^{Footnote 30}. Selon Hume, en particulier, une bonne compréhension de la philosophie newtonienne et du privilège que celle-ci accorde aux faits observés par rapports aux hypothèses empêcherait de souscrire aux affirmations de Newton lui-même sur le caractère absolu de l’espace : il aurait fallu étendre le scepticisme au sujet de la connaissance de la nature réelle des corps, jusqu’à lui faire concerner la nature réelle de l’espace, comme l’atteste le Traité de la nature humaine ^{Footnote 31}.

On constatera en passant que la tentative de pousser jusqu’au bout la critique des systèmes, autrement dit les efforts, tel celui de Hume, visant à rendre encore plus radicale et plus large la critique des abstractions (jusqu’à concerner celles des mathématiciens et des géomètres), finissent par aller dans la même direction que certaines formes de scepticisme tout à fait dangereuses aux yeux de Formey. Il est aisé de le deviner en lisant les lignes conclusives de son compte rendu du Traité des systèmes :

Malgré leur importance si l’on s’intéresse au débat sur le scepticisme, et bien qu’elles témoignent très probablement de la préoccupation la plus forte du futur secrétaire de l’Académie, ces craintes ne sont pas des plus significatives du point de vue de l’histoire que nous sommes en train de retracer. Ce qui s’avère décisif pour notre propos, ce sont plutôt les multiples relations que le compte rendu paru dans la Bibliothèque impartiale nous permet de découvrir et d’établir entre esprit antisystème, newtonianisme et critique des mathématiques. Formey voyait juste lorsqu’il mettait au jour la parenté entre critique des systèmes et antimathématisme et lorsqu’il faisait allusion aux retombées que tout cela pouvait avoir sur le degré d’adhésion à la pensée de Newton; car c’est précisément ce qui se produit en France aux alentours de 1750 avec Buffon et Diderot^{Footnote 33}. Ce n’est pas un hasard si ces deux auteurs, chez qui la critique des systèmes et la critique des mathématiques sont étroitement liées, ont une attitude sélective par rapport aux idées de Newton, à la différence de d’Alembert, selon qui, comme on le verra, les mathématiques ne sont pas vraiment concernées par les mêmes risques et inconvénients qui affectent les systèmes.

3. Critique des systèmes et critique des mathématiques

Dans la littérature scientifique sur les Lumières françaises, la convergence entre critique des mathématiques et critique des systèmes n’a pas été suffisamment mise en valeur^{Footnote 34}. Les textes de Buffon et de Diderot que nous allons aborder témoignent, en revanche, d’un rapport réellement existant entre les deux débats et donnent un sens à la polémique opposant Formey à Condillac : l’antimathématisme peut effectivement être tenu pour un complément de l’esprit antisystème et aurait dû par conséquent faire partie de l’ouvrage de référence qu’était le Traité des systèmes. J’ai signalé qu’à la différence de Condillac, et à la manière de Hume, Diderot et Buffon ont un rapport controversé avec le newtonianisme^{Footnote 35}. Comme le montrent ses travaux de jeunesse, dont la préface à la traduction de la Vegetable Staticks de Stephen Hales (1735), Buffon partage avec Newton l’esprit expérimental en tant qu’opposé à l’esprit de système : il retient l’attachement à l’observation typique de l’auteur des Principia, tandis qu’il néglige le rôle que les mathématiques jouent dans sa réforme de la philosophie naturelle^{Footnote 36}. Dans la Préface à la traduction de la Method of Fluxions de Newton (1740), Buffon semble même anticiper l’anti-newtonianisme de Formey^{Footnote 37} : on y trouve, en effet, une critique métaphysique de la notion d’infini qui est liée à la pratique de la géométrie^{Footnote 38}. Diderot, quant à lui, était sans doute moins anti-newtonien qu’on l’a parfois cru et pouvait également se vanter d’une connaissance directe des travaux scientifiques du savant anglais. Toutefois, il a pris ses distances du newtonianisme pour des raisons «idéologiques» (en tant que doctrine des déistes finalistes), mais aussi pour des raisons «ontologiques» (il rejette la conception de la matière comme masse pure et simple, car il ne croit pas que dans la nature tout puisse se réduire aux interactions de masses qui fondent la loi d’attraction)^{Footnote 39}.

Évidemment, chez Buffon et Diderot, le mûrissement d’une position complexe et articulée — ou, pour mieux dire, sélective — à l’encontre de Newton n’est point sans relation avec leurs travaux de jeunesse dans le domaine des mathématiques. Mais il y a encore d’autres raisons expliquant pourquoi on trouve précisément chez eux, plutôt qu’ailleurs, des arguments dont Formey critiquait l’absence chez Condillac. Il ne faut pas oublier que les mathématiques et les systèmes sont deux cibles polémiques d’une nouvelle orientation à la fois philosophique et scientifique; Buffon et Diderot sont des représentants illustres de cette orientation, qu’ils incarnent sans doute davantage que d’autres protagonistes des Lumières (y compris Condillac)^{Footnote 40}. La volonté de renouveler la méthode propre à l’histoire naturelle, d’une part, et la vision de la nature en chimiste plutôt qu’en géomètre, d’autre part, ne sont pas négligeables dans ce contexte. Au contraire, ces deux orientations ont beaucoup contribué à faire avancer respectivement Buffon et Diderot dans le sens indiqué à la même époque par Formey : celui d’une assimilation entre mathématiques et systèmes, sur la base des défauts qu’ils ont en commun. Or, ce qui confirme d’une manière aussi immédiate que frappante le degré élevé de parenté qui existe entre la critique des mathématiques et la critique des systèmes chez nos deux auteurs, c’est qu’elles présentent des dénominateurs communs : les mathématiques et les systèmes sont tous les deux discutables, voire susceptibles de disqualification en raison de leur nature abstraite et générale, aussi bien qu’à cause de leur caractère conventionnel ou arbitraire.

Dès le début de son Histoire naturelle générale et particulière (1749), Buffon décrit les mathématiques précisément selon les critères évoqués ci-dessus. Et il le fait dans le cadre de la distinction entre vérités mathématiques et vérités physiques (on pourrait dire également entre vérités de raisonnement et vérités de fait), qui occupe une bonne partie du Premier Discours (intitulé De la manière d’étudier et de traiter l’histoire naturelle) :

Or, les expériences sur les choses que nous ne pouvons pas mesurer, sur les effets dont nous ne connaissons pas encore les causes et sur les propriétés dont nous ignorons les circonstances sont les seules qui puissent nous conduire à de nouvelles découvertes; en revanche, la démonstration mathématique ne nous apprendra jamais que ce que nous savions déjà. Un inconvénient encore plus grave devient cependant manifeste, comme l’avait déjà montré Formey, dès que les mathématiques sortent du domaine qui leur est propre :

Lorsqu’on raisonne beaucoup sur les rapports et sur les propriétés des êtres abstraits des mathématiques, et qu’on parvient à des conclusions non moins abstraites, on croit avoir trouvé quelque chose de réel; on transporte donc ce résultat, qui n’est qu’idéal, dans le sujet réel, ce qui produit une infinité d’erreurs. En fait, il n’y a que très peu de cas où les mathématiques peuvent légitimement s’appliquer à la physique.

Or les systèmes qui, dans le cadre de la polémique buffonienne, coïncident avec les méthodes de classification en histoire naturelle, sont abstraits à leur tour, car ils sacrifient le particulier au général. Parmi les exemples négatifs que Buffon donne à ce propos, il y a celui de Carl von Linné :

Pas moins que les mathématiques, les systèmes sont en outre arbitraires : chaque méthode de classification n’est, à vrai dire, qu’un dictionnaire où l’on trouve les noms rangés dans un ordre aussi arbitraire que l’ordre alphabétique. On peut s’en servir comme d’une aide pour étudier. Cependant, le seul et vrai moyen d’avancer dans la science consiste à travailler à la description et à l’histoire des différentes choses qui en font l’objet. En effet,

Les systèmes étant tous intrinsèquement abstraits et arbitraires, on doit conclure qu’il est impossible de donner un système général, ou une méthode parfaite.

Le problème de l’abstraction et de l’arbitraire propres à la forme-système allait préoccuper les encyclopédistes, qui devaient justement en faire un. La nature, comme l’écrit d’Alembert dans le Discours préliminaire, n’est composée que d’individus, dans lesquels nous remarquons des propriétés communes et des propriétés dissemblables; ces propriétés désignées par des noms abstraits nous ont conduit à former différentes classes dans lesquelles ces objets ont été placés. Mais il reste nécessairement une composante arbitraire. L’arrangement le plus naturel serait celui où les objets se succéderaient par des nuances insensibles. Mais les bornes de notre connaissance nous empêchent de marquer ces nuances^{Footnote 45}. D’Alembert ne semble pas moins d’accord avec Buffon lorsqu’il écrit que l’abus des mathématiques dans l’étude de la nature n’est pas un phénomène rare : «On a voulu réduire en calcul jusqu’à l’art de guérir», avoue-t-il^{Footnote 46}. Mais dans un autre passage, qui a tout l’air d’être une réponse polémique adressée à l’auteur de l’Histoire naturelle, d’Alembert sépare le destin des systèmes de celui des mathématiques :

Le calcul est ce qui fait la scientificité d’une démarche. Sur ces bases, on ne peut donc pas assimiler mathématiques et systèmes : bien au contraire, le calcul serait l’antidote aux conjectures abusives conçues par les systématiques.

Les choses se passent autrement chez Diderot. Il se rapproche beaucoup de Buffon dans sa critique des mathématiques^{Footnote 48}. Dans les Pensées sur l’interprétation de la nature (1753), il affirme que la région des mathématiciens est «un monde intellectuel», où ce que l’on considère comme des vérités perd tout avantage, dès qu’on redescend sur terre^{Footnote 49}. Il confirme cela dans la Suite de l’apologie de l’abbé de Prades (1753), où on lit que les précisions des géomètres correspondent à des approximations dans la nature^{Footnote 50}. Dans la Notice sur Clairaut (1765) il ajoute que, dans la nature, aucun corps n’a la régularité hypothétique qui lui attribuerait le géomètre^{Footnote 51}. Les mathématiques ressemblent à «une espèce de métaphysique générale, où les corps sont dépouillés de leurs qualités individuelles»^{Footnote 52}. Dans les Principes philosophiques sur la matière et le mouvement (1770), la posture du mathématicien est explicitement assimilée à celle du métaphysicien (et opposée à celle du chimiste^{Footnote 53}) : «Vous ferez de la géométrie et de la métaphysique tant qu’il vous plaira; mais moi, qui suis physicien et chimiste; qui prends les corps dans la nature, et non dans ma tête, je les vois existants, divers, revêtus de propriétés et d’actions»^{Footnote 54}. Les géomètres seraient donc les nouveaux métaphysiciens, comme Diderot le remarquait déjà en 1753 :

Le géomètre remplace ici le métaphysicien en tant que représentant de l’esprit de système, opposé à l’attitude expérimentale. La critique des mathématiques apparaît ainsi en continuité directe avec la lutte contre les systèmes. L’approche du géomètre ne diffère pas, du reste, de celle du «méthodiste», que Diderot rejette dans le sillage de Buffon : «Au lieu de réformer ses notions sur les êtres, il semble qu’on prenne à tâche de modeler les êtres sur ses notions»^{Footnote 56}.

Dans ses Pensées sur l’interprétation de la nature Diderot semble même pressentir l’extinction imminente des mathématiques. Selon lui, une grande révolution dans les sciences est en train de se produire : «Au penchant que les esprits me paraissent avoir à la morale, aux belles-lettres, à l’histoire de la nature, et à la physique expérimentale, j’oserais presque assurer qu’avant qu’il soit cent ans, on ne comptera pas trois grands géomètres en Europe»^{Footnote 57}. Buffon dresse un bilan moins optimiste quant au déclin des mathématiques, mais il n’abandonne pas le rapprochement entre mathématiques et systèmes de classification en histoire naturelle, entre calculs et dictionnaires, qui lui semblent partager un succès excessif et injustifié :

On ne peut pas savoir si c’est pour donner une réponse à son collègue et en contredire les prévisions, mais Diderot revient à plusieurs reprises sur la question : «Le règne des mathématiques n’est plus. Le goût a changé», écrit-il à Voltaire en 1758^{Footnote 59}. Les mathématiques seraient passées de mode. C’est une tendance que l’on trouve également indiquée dans l’article «Encyclopédie» de l’Encyclopédie (tome V, 1755), où Diderot constate que les gens s’intéressent désormais à d’autres formes de savoir, dont la chimie justement^{Footnote 60}. Les mathématiques auraient donc fait leur temps. Leur destin ne serait alors pas différent de celui des systèmes tel que d’Alembert l’avait décrit dans le passage du Discours préliminaire cité au début de l’article.

4. Calcul des probabilités et systèmes ouverts

On a pu constater que Formey n’avait pas tort lorsqu’il établissait une relation entre les deux critiques et en stigmatisait la lacune dans le texte de Condillac. Loin de se borner à une polémique contingente, il avait en fait saisi une convergence in fieri de l’esprit antisystème et de la critique des mathématiques, dont les textes de Buffon et de Diderot témoignent clairement. Nous pourrions maintenant nous demander s’il existe ou non, dans la perspective de ces auteurs, un bon usage des mathématiques comme des systèmes. On penchera pour la positive. Il existe un usage correct des mathématiques selon Buffon. Lorsque les sujets sont trop compliqués pour qu’on puisse y appliquer avec avantage le calcul, comme le sont presque tous ceux de l’histoire naturelle et de la physique particulière, la vraie méthode pour conduire son esprit dans ces recherches consiste à avoir recours aux observations et à «n’employer la méthode mathématique que pour estimer les probabilités des conséquences qu’on peut tirer de ces faits»^{Footnote 61}. Cette idée de Buffon trouve confirmation chez Diderot^{Footnote 62}. Le calcul des probabilités représente pour lui «une science physico-mathématique», comme il l’exprime dans son commentaire à un mémoire de d’Alembert, intitulé Du calcul des probabilités (1761); il ne doit pas être une science abstraite, selon laquelle les problèmes se résolvent dans la tête du géomètre comme ils se résoudraient dans l’entendement divin^{Footnote 63}. Diderot objecte à d’Alembert que la possibilité des choses dépend d’une causalité qui n’est plus la causalité atemporelle des mathématiques : elle dépend de causes physiques, dont l’effet change perpétuellement. On a affaire au hasard, qui ne répond pas à des lois mathématiques, mais à l’ordre de la nature^{Footnote 64}.

Les systèmes peuvent eux aussi avoir droit de cité chez nos auteurs^{Footnote 65}, pourvu qu’ils soient adaptés aux nouvelles conceptions du monde et de la science qui s’affirment au siècle des Lumières. Tout comme il conserve aux mathématiques le rôle d’idéal régulateur^{Footnote 66}, Diderot ne sacrifie pas l’idée d’ordre de la nature et, par conséquent, l’exigence d’un ordre du savoir : seulement, il renonce à l’idée d’un système établi a priori pour aspirer à un système qu’on atteindra après de nombreuses tentatives et de nombreux échecs^{Footnote 67}. À son tour, Buffon ne se limite pas à stigmatiser les défauts des systèmes, entendus comme méthodes de classification. À la fin de sa carrière, dans son Histoire des minéraux (tome II, 1783), il revient sur l’utilité des systèmes en effectuant une sorte de réhabilitation de ceux-ci^{Footnote 68}. Mais il y a plus. L’Histoire naturelle elle-même peut être considérée comme une tentative de réorganiser les composantes traditionnelles des systèmes philosophiques (logique, physique, morale, métaphysique) : à cet effet, Buffon se serait appuyé sur les outils de la comparaison et de la relation, qui lui auraient fourni une alternative valide aux classifications linnéennes ainsi qu’à la physique mathématique^{Footnote 69}. Quel bilan pourrait-on dresser, alors, au terme de ce parcours? Ce qui semble d’abord confirmé, c’est que l’application des mathématiques aux phénomènes physiques a fait l’objet d’un débat de fond mettant souvent les auteurs des Lumières en opposition avec les prémisses de la philosophie de la nature de Newton. Mais il apparaît également manifeste qu’à cette époque, la mise en question du statut et de l’usage des mathématiques n’est pas étrangère à la révocation en doute de l’utilité et de la légitimité des systèmes : du point de vue historique, l’une pourrait être considérée comme la condition de l’autre. Enfin, on se tromperait fort en supposant un abandon pur et simple des systèmes et des mathématiques après 1750 car, dans certains cas, les savants et les philosophes qui en avaient dénoncé les dangers et l’inactualité ont eux-mêmes contribué à la transformation de ces paradigmes, plutôt qu’à leur complète disparition. Il conviendrait donc d’affirmer qu’au lieu de s’arrêter ou de se dissocier l’un de l’autre, les destins des mathématiques et des systèmes se sont à nouveau croisés dans la seconde moitié du XVIII^e siècle.