Résumé
Le théorème de Shannon-MacMillan-Breiman prouve la propriété d’équipartition asymptotique dans les ensembles typiques, dès que le processus est ergodique. La notion d’ergodicité et le théorème de Birkhoff sont introduits, mais il n’est pas démontré. On explique ensuite l’argument principal de la preuve du théorème d’équipartition asymptotique des processus ergodiques, sans donner les détails de la démonstration.
La seconde partie du cours introduit le modèle et la définition des chaînes de Markov. On définit la matrice de transition stochastique. On spécifie ensuite la loi stationnaire invariante d’une chaîne de Markov ainsi que son lien avec la réversibilité, définie par l’équation de balance détaillée. Les exemples des marches aléatoires et de l’urne d’Ehrenfest sont expliqués.