Dans la suite logique du cours 2015-2016 consacré à la représentation cérébrale des structures linguistiques, le cours 2016-2017 s’est intéressé aux autres facultés cognitives apparentées et qui semblent caractéristiques de l’espèce humaine. Notre espèce est la seule non seulement à s’exprimer sous forme de mots mais également à créer de vastes systèmes mathématiques, informatiques, ou musicaux. Dans tous ces domaines, l’espèce humaine présente une capacité singulière de créer et de manipuler des structures symboliques enchâssées : ce sont des « langages » dans l’acception la plus large de ce mot. On peut, dès lors, s’interroger : un mécanisme cérébral unique sous-tend-il ces différents langages ? Ou bien, l’évolution a-t-elle doté le cerveau humain de mécanismes distincts de représentation des structures symboliques, propres à chaque domaine ?
La question des « langages du cerveau » joue un rôle central dans la réflexion contemporaine sur les origines de la singularité de notre espèce. Marc Hauser, avec Tecumseh Fitch et Noam Chomsky, postule que l’apparition de la faculté humaine de langage trouve son origine dans l’émergence d’une opération unique : la récursion, c’est-à-dire la faculté de produire des représentations complexes en les enchâssant les unes dans les autres, à l’infini. Cependant, la récursion est-elle une adaptation à la communication, restreinte au langage naturel ? Ou bien s’applique-t-elle à de nombreux domaines ? En 2016, Marc Hauser et Jeffrey Watumull ont fait l’hypothèse que l’espèce humaine se caractérise par une « faculté générative universelle » (universal grammar faculty) :
[cette faculté] et ses interfaces vers les différents domaines de connaissance permettent d’engendrer des structures hiérarchiques (en réalité fractales), ad infinitum, lesquelles représentations sont ensuite « exaptées » pour le langage, les mathématiques, la musique, et le sens moral. Ces différents domaines ne diffèreraient que dans les valeurs (mots, nombres, notes, événements) qui se substituent aux variables dans les procédures génératives.
Ces mêmes auteurs soulignent que, dans l’état actuel des connaissances :
[…] dans la plupart du monde animal, même lorsqu’il existe quelques preuves de l’existence de procédures génératives du niveau des langages réguliers (le plus bas niveau de la hiérarchie de Chomsky), rien ne prouve que ces procédures sous-tendent à la fois la reconnaissance et la production [de séquences] dans plusieurs domaines.
Ainsi, le cerveau humain pourrait bien être le seul à posséder des modèles génératifs récursifs communs à plusieurs domaines de connaissances (idée également développée par Josh Tenenbaum et détaillée dans un cours précédent sur le « cerveau bayésien »).
L’objectif du cours 2016-2017 était d’évaluer cette hypothèse en passant en revue les données disponibles concernant l’organisation des représentations mentales dans trois domaines : langage naturel, musique et mathématiques. En dépit d’évidentes différences de surface, nous avons essayé d’identifier des parallèles entre ces trois domaines : peut-on, sans tomber dans une métaphore inappropriée, parler de langue mathématique ou de langue musicale ?