Résumé
Les ensembles typiques et le théorème d’équipartition asymptotique sont étendus au cas des variables indépendantes à valeurs continues. On étudie les propriétés de l’entropie conditionnelle et de la divergence de Kullback-Liebler, ainsi que l’information mutuelle et l’additivité de l’entropie pour des variables indépendantes. On analyse ensuite la convergence de l’entropie de variables aléatoires dépendantes lorsque le nombre de variables augmente. Cela permet de définir le taux d’entropie. On démontre l’existence asymptotique de ce taux d’entropie pour un processus stationnaire.
