Les mécanismes Bayésiens de l'induction chez l'enfant

Tenenbaum approfondit l’exemple, discuté par Quine (1960), de l’apprentissage des mots. Comment un enfant ou un adulte infèrent-ils l’extension d’un mot sur la base de quelques exemples, qu’il s’agisse d’une instance (« Fido ») ou d’une catégorie plus ou moins étendue (« basset », « chien », « animal ») ? Cette observation peut être modélisée dans le cadre bayésien en supposant que le monde perceptif est organisé sous forme d’un arbre d’hypothèses. Une vraisemblance plus faible est automatiquement accordée aux catégories les plus vastes. Le modèle converge en deux ou trois exemples : il attribue la plausibilité la plus forte au sens correct du mot, et généralise correctement à des instances nouvelles. De fait, le modèle bayésien fournit une théorie universelle de la manière dont un apprentissage se généralise (Shepard, 1987), modèle qui capture un très grand nombre de données empiriques sur la psychophysique de la généralisation perceptive.

La théorie bayésienne offre une vision de l’apprentissage qui attribue une place bien définie aux connaissances innées : l’apprentissage est contraint par l’espace d’hypothèses envisagées, la fonction de probabilité a priori et la fonction de vraisemblance. De plus, un volet récent de la théorie introduit le concept fondamental de modèle bayésien hiérarchique : l’espace des hypothèses au niveau n peut être, à son tour, engendré par un modèle génératif de niveau supérieur n+1, et ses probabilités a priori déterminées par un petit nombre d’hyper-paramètres. Une fois le modèle hiérarchique spécifié en détail, la théorie bayésienne fournit alors une manière simple de mettre à jour les plausibilités à chaque niveau.

De tels modèles bayésiens hiérarchiques possèdent une propriété intéressante que Tenenbaum appelle « bénédiction de l’abstraction » (blessing of abstraction) : l’apprentissage est souvent très rapide au niveau le plus élevé, celui qui concerne les principes mêmes d’organisation d’un domaine, car chaque observation nouvelle contribue à sélectionner le modèle le plus pertinent, et celui-ci se généralise à toutes les observations nouvelles. Cette propriété s’apparente à ce que l’on appelle « le transfert d’apprentissage » ou « apprendre à apprendre ». Pour reprendre un exemple dû à Nelson Goodman (1955), supposons que l’on tire d’une seule urne une unique balle bleue. Que peut-on en conclure sur les tirages suivants ? Rien… sauf si, par le passé, on a découvert que chaque sac ne contient que des billes d’une seule couleur, auquel cas on peut avoir la quasi-certitude que toutes les balles suivantes seront bleues. Tenenbaum (2011) montre comment modéliser cette situation par un modèle bayésien hiérarchique (modèle Dirichlet-multinomial).

Le modèle d’induction bayésienne s’applique directement aux expériences d’apprentissage des mots chez l’enfant de 17 à 19 mois réalisées par Linda B. Smith (2002). Dans cette étude, un enfant voit un adulte appeler des formes par des noms nouveaux (wif, dax, etc.). Systématiquement, l’enfant voit que la même syllabe s’applique à deux objets de même forme, mais dont la texture, la taille et la couleur varient. Par la suite, exposé à une seule instance d’un mot nouveau (« lug ») apparié à un objet nouveau, il généralise correctement l’usage de ce mot à ces objets nouveaux de même forme, tandis qu’il refuse d’appliquer le mot à des objets de même texture, taille ou couleur. L’enfant a donc induit un principe général qui gouverne la plupart des noms communs : chacun d’eux se réfère à un objet de forme donnée. L’apprentissage bayésien est capable d’expliquer et de modéliser en détail cette capacité de généralisation : « Each bit of individual learning changes the learner, and thus progressively changes what the learner finds easy to learn. » (Smith et al., 2002).

Sur la base d’un algorithme informatique plus complexe, Kemp et Tenenbaum (2008) parviennent à modéliser l’induction automatique de la structure profonde de nombreux domaines : l’arborescence de la famille des êtres vivants, la structure circulaire du globe terrestre, ou même le principe de causalité lui-même. Nous ne sommes donc pas loin d’une modélisation des grands principes de la découverte scientifique, même si les données de psychologie cognitive manquent encore pour le valider.

En résumé, les modèles bayésiens incluent à la fois des hypothèses a priori très riches (sur l’espace des représentations mentales considérées et leur probabilité a priori), et un mécanisme simple et puissant d’apprentissage par inférence statistique. Jusqu’à récemment, la psychologie cognitive était très divisée sur le rôle de l’apprentissage dans l’organisation des compétences de l’enfant. Le connexionnisme, d’une part, proposait des mécanismes sophistiqués d’apprentissage, mais portant sur des représentations non-structurées des connaissances (matrices d’associations). Les théories « représentationnelles », d’autre part, faisaient l’hypothèse de représentations symboliques structurées et sophistiquées des connaissances, mais étaient dépourvues d’un réel dispositif d’apprentissage. L’approche bayésienne présente l’avantage de réconcilier ces deux camps et de dépasser ainsi de nombreuses oppositions caricaturales et stériles (inné/acquis ; nativisme chomskyen contre constructivisme piagétien ou associationnisme skinnérien).