L'utilisation de représentations parcimonieuses est au cœur de la démarche scientifique de modélisation, à travers le concept philosophique du rasoir d'Occam, mais la parcimonie est aussi fondamentale pour la construction de modèles de basse dimension pour le traitement de données. Le cours montre l’équivalence mathématique des notions de parcimonie, d’approximation, et de régularité, définies par des opérateurs linéaires ou non linéaires.
Les représentations parcimonieuses ont de nombreuses applications pour la compression de données, le débruitage, la résolution de problèmes inverses, ainsi que pour l'apprentissage statistique. Le cours est consacré aux propriétés mathématiques des approximations parcimonieuses qui font appel à l’analyse harmonique, la transformée de Fourier et les bases d’ondelettes. On étudie aussi les approximations en grande dimension avec des réseaux de neurones à deux couches.