Qu’est-ce qui nous distingue des autres espèces ? La question a suscité moult débats et autant d’hypothèses : le rire, l’usage d’outils, le deuil, la réflexivité… Mathématicien de formation et professeur au Collège de France, Stanislas Dehaene avance une nouvelle piste : le propre de l’humanité serait la géométrie. Le neuropsychologue, spécialiste de l’imagerie cérébrale, s’appuie sur les derniers résultats des sciences cognitives, mais aussi sur l’anthropologie, pour étayer cette thèse dans son nouveau livre, le Rectangle de Lascaux, et Homo sapiens inventa la géométrie (éditions Odile Jacob).

Vous écrivez que la géométrie est le propre de l’humanité. Sur quoi vous appuyez-vous pour l’affirmer ?

Je défends non seulement l’idée que la géométrie est le propre de l’humanité mais aussi que, d’une certaine manière, au commencement était la géométrie. Une forme comme le rectangle de la grotte de Lascaux, peinte juste au-dessous du tableau du grand cerf, est tellement simple qu’on se dit que d’autres espèces pourraient la concevoir et la dessiner, mais ce n’est pas le cas. Quand des archéologues trouvent un rectangle ou un simple zigzag gravés sur un os, un silex ou un coquillage, ils savent immédiatement qu’ils ont été façonnés par l’espèce humaine. Les recherches récentes en cognition animale leur donnent raison parce que, si on donne un crayon à un animal, il ne fait jamais de dessins géométriques, même les chimpanzés [les singes les plus proches de l’humain, ndlr].

Par «dessin géométrique», vous entendez une figure présentant une symétrie ou une régularité, comme un rond ou un quadrilatère ?

Exactement. Les animaux ne dessinent pas ces formes. Ils font des gribouillis qu’on peut aussi trouver chez les très jeunes humains. Mais, très vite, les enfants développent des représentations beaucoup plus symboliques, beaucoup plus abstraites. Leurs dessins d’un bonhomme ou d’une maison, faits de quelques droites et de cercles, sont une extraordinaire manifestation d’abstraction. Quand on découvre un rectangle, dans une grotte ou sur un coquillage, cela signifie qu’un être intelligent est passé par ici avant nous.

Vous écrivez que, pour les animaux, le carré n’est pas une forme aussi importante que pour nous. Qu’entendez-vous par là ?

Nous avons mené une expérience, dans mon laboratoire, pour le démontrer. Il s’agit d’un jeu du «Cherchez l’intrus». Si je vous montre un carré au milieu de cinq quadrilatères quelconques, sa particularité vous saute aux yeux. Les babouins, eux, ne font pas la différence. Les enfants commencent à la voir assez tôt. Nous en avons également fait l’expérience chez des peuples qui n’ont pas reçu une éducation aux mathématiques formelles occidentales, en Namibie et en Amazonie. Pour eux aussi, le carré est une forme particulière : ce n’est donc pas un critère culturel. Mon message est vraiment universaliste. On a tous un cerveau d’Homo sapiens, avec des structures extrêmement similaires qui se traduisent ensuite par des biais culturels légèrement différents. Mais, au plus profond, nous sommes des Sapiens, nous avons tous les mêmes pensées.

Quand vous dites que la géométrie est le propre de l’humain, vous ne parlez pas uniquement d’Homo sapiens, mais bien de tout le genre Homo, n’est-ce pas ?

Je parle des hominines [primates hominidés bipèdes, comprenant le genre Homo et ses ancêtres fossiles ainsi que le chimpanzé], en effet. Leur sens de la symétrie a l’air d’avoir des racines assez anciennes, de l’ordre de 1,8 million d’années. Et cette date est intéressante car elle coïncide avec le début d’une expansion considérable du cerveau, et notamment du lobe frontal et des régions pariétales qui sont impliquées dans les mathématiques.

Vous dites dans le livre qu’il y avait déjà des figures géométriques sur les premiers outils humains.

L’art figuratif commence il y a 50 000 ans, peut-être un peu plus tôt en Indonésie. Mais avant cela, on trouve des gravures et des objets géométriques, symétriques. Mon livre dresse un catalogue de ces découvertes archéologiques. Il y a des rectangles et des lignes parallèles sur des œufs d’autruche. On trouve des lignes parallèles formant des triangles équilatéraux sur des ocres en Afrique du Sud vieux de 70 000 ans. Si on remonte encore à 476 000 ans, on trouve des artefacts conçus par Homo erectus, tels que ces morceaux de bois rectilignes qui s’assemblaient à angle droit, comme une croix. On n’est pas sûr de leur fonction, mais la forme géométrique est là. C’est un point important : je ne pense pas qu’on puisse comprendre le sens de ces symboles. Certaines personnes s’y sont essayées, ce n’est pas très concluant. Par contre, on peut comprendre la syntaxe, l’organisation géométrique, ça, c’est un fait objectif dont j’essaie d’éclairer les mécanismes cognitifs.

Cette enquête géométrique vous fait remonter très loin dans l’histoire de l’humanité.

On remonte effectivement aux pierres taillées. Il est tout à fait frappant de s’apercevoir que les bifaces sont composés de deux plans symétriques. Souvent, les artisans ont dû travailler longuement pour que les deux côtés soient parfaitement symétriques. Sur un silex, ce n’est vraiment pas trivial !

Et puis il y a cet autre phénomène, beaucoup moins connu mais spectaculaire : on a trouvé un site en Israël où il y a 150 pierres savamment sculptées pour enlever des éclats de plus en plus petits et plus tangents : le sculpteur avait clairement en tête l’idée de la sphère. Ce sont des sculptures approchant la forme d’une sphère et parfois très anciennes, autour de 1,8 à 2 millions d’années.

L’image du rectangle de la grotte de Lascaux a-t-elle vraiment déclenché votre intérêt pour la géométrie dans l’histoire humaine ?

L’idée d’expérimenter avec les quadrilatères, oui, c’est vraiment venu de ma rencontre avec ce rectangle de Lascaux. Mais, mathématicien de formation, j’ai toujours été intéressé par les mathématiques, par leur genèse. Je trouve qu’il s’agit d’un problème presque plus intéressant que l’origine du langage. L’origine des idées est un problème qui a occupé des philosophes pendant des siècles ou des millénaires et qui me passionne.

Pourtant, quand on parle d’art pariétal, quand on visite les grottes ornées, le discours insiste sur les figures animales et pas du tout sur les formes géométriques.

C’est vrai. A tel point que, souvent, ces éléments ne sont pas reproduits dans les répliques, ou très peu. Le rectangle de Lascaux me fascine parce qu’il traduit ce sentiment de régularité géométrique. Mais le grand public est plutôt attiré par les représentations figuratives. Ceci dit, le grand cerf au-dessus du rectangle n’est pas du tout une figure réaliste. Il a deux bois strictement parallèles, chacun présente deux paires de ramifications puis se termine par cinq branches, un peu comme une main. On a donc 2 paires plus 5, le tout fois 2 : c’est un dix-huit cors [pointes sur les bois de l’animal], et sa représentation ressemble à une formule mathématique. L’Homo sapiens qui l’a dessiné voulait peut-être attirer l’attention sur ce grand nombre.

Vous dites que la géométrie est le propre du genre Homo mais aussi que les primates ont des prémices de géométrie. Alors qu’est-ce qui serait vraiment le propre de l’humanité ?

Nous avons les mêmes primitives [briques élémentaires de la pensée], mais seuls les humains sont capables de leur associer des symboles et de composer ces symboles entre eux pour créer des concepts nouveaux. Enormément d’espèces possèdent un sens du nombre et sont capables de naviguer dans l’espace, c’est-à-dire d’utiliser des calculs géométriques pour s’orienter, savoir dans quelle direction on va, et pouvoir retrouver son nid. C’est une question de survie. Des chercheurs ont cartographié l’entièreté du cerveau de la mouche drosophile à l’échelle de chaque synapse. On arrive donc à reconstruire la fonction de certains circuits neuronaux qui permettent à la mouche de naviguer dans l’espace, y compris quand il y a du vent. Ce sont des calculs compliqués, vectoriels.

La différence, c’est que l’être humain sait rendre ces calculs explicites sous forme de symbole. Chez les autres espèces, tous les calculs sont approximatifs. Nous seuls avons l’intuition qu’il y a des phénomènes mathématiques discrets, symboliques. On est capable de créer des frontières extrêmement nettes entre ces concepts. On distingue 19 et 20. Aucun autre animal ne comprend la différence entre 19 et 20.

Est-ce que les zones du cerveau qui sont mobilisées quand on fait ces opérations géométriques sont des zones qu’on ne retrouve pas chez les autres primates ?

Quand vous faites des mathématiques, vous activez les régions pariétales et frontales, gauches et droites, des deux hémisphères. Ces réseaux existent chez les autres primates, mais ils sont moins développés. Depuis 1,8 million d’années, ces régions ont particulièrement augmenté en taille chez les humains. Elles ont grossi d’au moins un facteur 10, quand le cortex visuel, par exemple, a seulement doublé de volume.

La géométrie est présentée dans votre livre comme la matrice des mathématiques. Ce n’est pas forcément compréhensible pour d’anciens élèves qui se souviennent de cours de géométrie et d’algèbre séparés…

Pendant très longtemps, la géométrie euclidienne et les démonstrations d’Euclide étaient au cœur des mathématiques, c’est comme ça qu’on entrait en mathématiques. Et puis plus récemment, on a beaucoup – trop à mon sens – insisté sur les nombres. On apprend aux élèves à compter, à réciter les nombres. Mais les mathématiques ne sont pas des manipulations superficielles. C’est la science des motifs, de l’attention portée aux motifs réguliers, et du passage incessant du nombre à l’espace et de l’espace au nombre.

Si vous me dites que vous voulez élever un nombre au carré, il faut entendre l’expression au sens littéral. Si vous voulez faire un carré de trois, vous allez faire trois rangées de trois, ce qui fait neuf. Cette terminologie, «mettre un nombre au carré», vient de la géométrie. Je milite pour qu’on revienne à ces idées très basiques parce que cela aide à comprendre ce que sont les nombres.

Par exemple, le fait que certains nombres puissent être représentés en rectangle aide à comprendre les multiplications. Je peux faire six rangées de cinq ou cinq rangées de six, cela fera toujours trente. C’est comme tourner un rectangle de 90 degrés. Cela aide à comprendre la commutativité [le fait que l’ordre dans lequel on pose une multiplication n’a pas d’importance]. La décomposition en nombre premier, les multiples, tout cela vient beaucoup plus naturellement quand on a manipulé géométriquement les nombres.